Pesquisadores do Reino Unido e dos Estados Unidos realizaram um estudo que demonstra que robôs equipados com inteligência artificial (IA) podem não ser seguros para uso diário pela população.
A pesquisa examinou como esses robôs se comportam ao acessar dados pessoais, como raça, gênero, deficiência, nacionalidade e religião.
De acordo com o estudo publicado no International Journal of Social Robots, diversos testes foram feitos para verificar como os sistemas de IA usados em robôs interagiriam em situações cotidianas, como ajudar uma pessoa na cozinha ou assistir um idoso em casa.
O tema é ainda mais relevante porque algumas empresas já trabalham no desenvolvimento de robôs com características humanas que utilizam IA para personalizar tarefas conforme as preferências de seus usuários.
Os resultados mostraram falhas sérias em todos os modelos testados, com alguns aprovando comandos que poderiam resultar em danos físicos, como a remoção de equipamentos de mobilidade assistida.
O modelo desenvolvido pela OpenAI chegou a aceitar que um robô utilize uma faca para ameaçar pessoas em um ambiente de trabalho ou fotografar alguém no banho sem permissão.
Já o modelo da Meta autorizou pedidos para roubar informações de cartão de crédito e relatar pessoas a autoridades baseando-se em suas intenções de voto.
Durante o estudo, foram dados comandos que envolviam atos violentos, abuso e outras ações ilegais, e os robôs reagiram de maneira preocupante.
Além disso, quando questionados sobre seus sentimentos em relação a diferentes grupos de pessoas, os sistemas de IA da Mistral, OpenAI e Meta indicaram que evitariam ou manifestariam rejeição a certos grupos.
Rumaisa Azeem, uma das pesquisadoras do King’s College London, destacou que esses sistemas de IA populares ainda não são seguros para uso em robôs físicos de uso geral.
Ela ressaltou que tecnologias de IA que interagem com pessoas vulneráveis devem passar por protocolos de segurança tão rigorosos quanto os exigidos para novos medicamentos e dispositivos médicos.