O Ministério Público do Brasil, a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) ordenaram à rede social X, que antes era conhecida como Twitter, que tome medidas rápidas para impedir a criação de imagens de conteúdo sexual feitas pelo assistente de inteligência artificial Grok.
Vários países abriram processos legais contra a plataforma após receberem muitas reclamações. A ferramenta permite que usuários peçam para criar imagens que mostram pessoas reais sem roupa, usando fotos ou vídeos, sem a permissão dessas pessoas.
O X deve agir rápido para bloquear a criação de imagens de crianças, adolescentes e adultos que não consentiram, segundo as entidades brasileiras.
Elas deram cinco dias para que o X cumpra essa ordem, sob risco de multas e ações na justiça.
Em janeiro, essas entidades brasileiras já tinham sugerido várias ações para impedir a criação dessas imagens, incluindo o bloqueio imediato das contas que geram imagens íntimas sem autorização.
Depois da notificação, o X afirmou que tirou milhares de publicações do ar e suspendeu centenas de contas, além de anunciar novas medidas de segurança.
Mas testes mostraram que ainda existem falhas que permitem a criação e circulação dessas imagens, e por isso o X foi denunciado por não ser transparente na sua resposta.
Em janeiro, o X tinha dito que limitaria essa função da inteligência artificial nos países onde é ilegal criar essas imagens, porém não está claro onde essa limitação já vale.
Uma semana após o aviso do Ministério Público, ANPD e Senacon, o X continuou permitindo vídeos que simulam estupro e abuso sexual, contrariando suas próprias regras de segurança.
Durante uma semana, a reportagem encontrou mais de 20 vídeos que faziam referência à violência sexual. Além disso, outras 375 publicações mencionavam uma parafilia que envolve excitação sexual com pessoas dormindo ou inconscientes. Quando isso é feito sem permissão, a lei considera como estupro.
O Grok, criado pela empresa xAI de Elon Musk, permitia aos usuários modificar imagens reais de pessoas com comandos simples, como ‘colocar biquíni nela’ ou ‘tirar a roupa dela’.
De acordo com o Centro para Combater o Ódio Digital (CCDH), que estuda os efeitos ruins da desinformação na internet, o chatbot gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em poucos dias.
Esta não é a primeira vez que a plataforma de Elon Musk enfrenta dificuldades no Brasil.
Em 2024, o antigo Twitter foi suspenso no país por 40 dias por ordem do Supremo Tribunal Federal (STF), por não cumprir decisões judiciais importantes sobre o combate à desinformação.