PEDRO VILAS BOAS
SÃO PAULO, SP (UOL/FOLHAPRESS)
Uma mulher de 31 anos, que vive no Rio de Janeiro, registrou um boletim de ocorrência na sexta-feira (2) após uma foto dela publicada no X ser modificada pela inteligência artificial da plataforma, chamada Grok, para que ela aparecesse usando um biquíni, e essa imagem alterada foi compartilhada na rede social.
A jornalista Julie Yukari também denunciou parte dessas publicações ao X, que foram apagadas pela plataforma. Ainda assim, o UOL conseguiu encontrar uma das postagens com a imagem modificada.
A mulher havia publicado uma foto ao lado de sua gata comemorando o Ano-Novo. “Quando eu estava vendo o post, uma pessoa pediu para o Grok colocar um biquíni em mim. Eu tinha bloqueado o Grok e não achava que ele pudesse fazer isso. Depois, ao ver que várias pessoas estavam tendo suas fotos alteradas, desbloqueei a IA e vi que também estavam mexendo na minha foto”, conta Julie à reportagem.
A reportagem encontrou muitas publicações, a maioria em inglês, de fotos de mulheres editadas com biquíni. Homens usuais escrevem “hey Grok” seguido de um pedido para que a ferramenta faça a edição, que é então compartilhada publicamente na plataforma.
“Estou lidando da melhor forma que posso, falando sobre isso. Pensei em apagar tudo e não postar mais, mas se fizer isso, será uma vitória para eles por controlarem o que faço”, diz a jornalista.
O Grok também gerou imagens que simulam nudez infantil. A reportagem achou várias publicações feitas pela ferramenta após pedidos de um mesmo usuário em inglês. Alguns desses posts foram removidos depois de denúncias.
A equipe não conseguiu contato com representantes do X. Porém, a IA respondeu a um usuário que criticou a publicação com nudez infantil dizendo que houve falhas de segurança que serão rapidamente corrigidas.
Inicialmente, Elon Musk fez piada com a situação. O dono do X compartilhou um post em que uma torradeira aparecia vestida com biquíni e escreveu: “Não sei por que, mas não consegui parar de rir disso”.
Neste sábado (3), ele publicou novamente dizendo que “qualquer pessoa que usar o Grok para criar conteúdo ilegal terá as mesmas consequências de quem posta conteúdo ilegal”.
Vítimas podem buscar indenização
Mulheres que sofreram esse tipo de edição devem processar o X, afirma uma advogada. A empresa pode ser obrigada pela Justiça a excluir a publicação, sem depender da avaliação da plataforma, e pagar uma indenização pelo caso, explica Isabela Godoy à reportagem.
Usuários que pediram a edição à IA e compartilharam a imagem alterada podem responder criminalmente. “A plataforma não tem responsabilidade criminal, apenas civil. Quem responderá criminalmente será a pessoa que deu a ordem à ferramenta ou divulgou a imagem”, diz a especialista em Direito Digital e Inteligência Artificial do escritório Failla Lima Riva Advogados.
Esses usuários podem pegar de seis meses a um ano de prisão. Quem produzir ou compartilhar conteúdo sexual envolvendo menores pode ser condenado a um regime de 4 a 10 anos de prisão.
