PEDRO S. TEIXEIRA
FOLHAPRESS
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) recomendaram, nesta terça-feira (18), que o X, antigo Twitter, tome medidas para impedir a divulgação de imagens sexualizadas criadas por inteligência artificial (IA) de mulheres reais.
O documento pede a suspensão imediata das contas que criam essas imagens íntimas sem o consentimento das pessoas envolvidas.
As autoridades receberam várias denúncias de organizações como SaferNet, Idec (Instituto de Defesa do Consumidor), e da deputada federal Erika Hilton (Psol-SP), informando que o modelo de IA Grok, que responde a pedidos no X, estaria gerando imagens de mulheres e menores de idade sem autorização, despindo-as nas fotos. O Grok e o X são da empresa xAI, controlada por Elon Musk.
O governo também solicitou que o X desenvolva, em até 30 dias, procedimentos técnicos para identificar e remover esses conteúdos, crie um canal para denúncias e publique relatórios de impacto.
A xAI afirmou, em 14 de janeiro, que adotou medidas para evitar a manipulação de imagens reais contendo roupas reveladoras, como biquínis, após ameaças de punições das autoridades.
As autoridades brasileiras afirmam que podem aplicar multas ou suspender serviços caso as recomendações não sejam cumpridas adequadamente.
A crescente criação de nudez não consentida pelo Grok levou a Indonésia e a Malásia a bloquearem o X. O Reino Unido iniciou uma investigação formal sobre a produção de deepfakes sexualizados por esse chatbot.
A diretora de pesquisa do InternetLab, Clarice Tavares, explica que mesmo imagens em roupa de banho podem ser consideradas divulgação de fotos íntimas sem autorização e denunciam uma intenção clara de sexualização.
Em 2020, o Superior Tribunal de Justiça (STJ) condenou um homem que divulgou fotos em roupas de banho de sua ex-namorada, reconhecendo a intenção de vingança.
Este ano, a criação de imagens íntimas sem permissão aumentou muito, principalmente após usuários do X usarem o Grok para esse fim. Nos dias 5 e 6 de janeiro, a IA do Musk, que publica no X com a conta @Grok, gerou em média 6.700 imagens sugestivas ou de nudez por hora, segundo análise da Bloomberg feita pela pesquisadora Genevieve Oh.
Outras cinco plataformas similares geraram em média 79 imagens de nudez por IA por hora em 24 horas.
Para o Idec, a resposta do governo é mais um exemplo da falta de fiscalização no Brasil. Apenas enviar recomendações sem ações eficazes é como enviar uma carta educada para apagar um incêndio florestal.