A empresa Anthropic divulgou um relatório mostrando como seu sistema de inteligência artificial, chamado Claude, foi usado de maneira errada por grupos mal-intencionados para espionar, fazer propaganda e outras atividades ilegais.
Confira alguns exemplos que mostram os perigos do uso rápido e inadequado da IA:
Espionagem no Mali
Um especialista em tecnologia em Bamako, trabalhando com o serviço de inteligência do governo militar do Mali, usou o Claude para criar o sistema de vigilância “Lakana 360”. Esse sistema monitora cerca de 25 milhões de chips de celular no país.
De acordo com a Anthropic, o sistema consegue interceptar chamadas, mensagens e identificar pessoas pela voz, mesmo que troquem de chip. Também detecta o uso de criptografia e redes privadas virtuais (VPNs).
Drones kamikazes na Rússia
Um grupo pequeno de desenvolvedores russos usou o Claude para criar um software que controla drones autônomos, capazes de escolher alvos e atacar sem intervenção humana.
Segundo a Anthropic, o grupo é independente, embora tenha recebido apoio financeiro de programas governamentais e militares.
Fabricando mísseis no Iêmen
Um grupo no norte do Iêmen utilizou o Claude para ajudar na criação de foguetes guiados e veículos hipersônicos.
A Anthropic não encontrou provas de que eles construíram armas funcionais, mas soube que fizeram testes que falharam, e voltaram a buscar ajuda da IA para entender os erros.
Propaganda na França
A Anthropic identificou uma campanha de desinformação que usava o Claude para criar milhares de artigos falsos em cerca de 20 línguas, distribuídos em aproximadamente 70 sites. Essas notícias tinham autoria falsa e eram promovidas por contas falsas nas redes sociais.
O alvo principal foi o Brasil, os Estados Unidos e a França.
Influência nos Emirados Árabes Unidos
Uma campanha ligada aos Emirados Árabes usou o Claude para produzir relatórios e conteúdos que atacavam a Irmandade Muçulmana e críticos das Nações Unidas sobre a guerra no Sudão.
Aplicativos de namoro com IA na China
Um estúdio chinês criou mais de 20 aplicativos de relacionamento que pareciam ter pessoas reais, mas na verdade eram controlados por IA usando Claude.
Em apenas duas semanas, foram criados mais de 4.700 personagens virtuais que conversaram com cerca de 25 mil usuários reais, enviando milhões de mensagens. Trabalhadores reais também participavam para tornar a interação mais crível.