Durante uma conferência na Universidade de Surrey, no Reino Unido, nesta terça-feira (18), um grupo de cientistas propôs que robôs deveriam trazer “caixas pretas” semelhante às usadas em aviões, mas focadas na coleta de dados “éticos” sobre as ações das máquinas.

A ideia é que a inclusão destes equipamentos traga mais segurança para as interações entre máquinas e humanos no dia-a-dia, em um momento em que robôs estão saindo de ambientes controlados e se tornando dispositivos presentes no nosso cotidiano – seja na forma de um carro autônomo, robôs de segurança ou atendentes.

Com uma “caixa preta” interna, todas as ações que o robô toma seriam registradas em uma linguagem simples, que permitiria que autoridades investigassem exatamente porque uma máquina agiu da forma como agiu – o que seria particularmente importante para investigações de incidentes envolvendo pessoas e robôs.

"Os acidentes graves precisarão ser investigados, mas o que você faz se um investigador de acidentes descobrir que não existe um registro de dados interno, nenhum registro do que o robô estava fazendo no momento do acidente?”, questiona Alan Winfield, professor de ética robótica da Universidade de West of England (via The Guardian). "A razão pela qual as aeronaves comerciais são tão seguras não é apenas um bom design, mas também são os processos de certificação de segurança e, quando as coisas dão errado, processos robustos e publicamente visíveis de investigação de acidentes aéreos”.

Outro efeito positivo da implementação da tecnologia seria o potencial de fazer pessoas se sentirem mais confortáveis com a presença de robôs.

Afinal, da mesma forma como uma caixa preta interna decodifica códigos em uma linguagem simples, as máquinas poderiam explicar a lógica por trás de suas ações para humanos à sua volta, diminuindo uma possível desconfiança de pessoas com robôs –  o que seria importante, por exemplo, para modelos voltados para o cuidado de idosos.