Patrícia Campos Mello
São Paulo, SP (FolhaPress)
Um estudo da FGV do Rio revelou que o buscador Google aponta sites e aplicativos capazes de gerar imagens falsas que mostram mulheres e crianças nuas, sem o consentimento delas. Além disso, o Google sugere plataformas semelhantes quando os usuários digitam palavras no campo de busca ou acessam links relacionados.
Esses sites conhecidos como “nudify” ou “deep nude” utilizam inteligência artificial e técnicas de deepfake para criar imagens sexualizadas falsas de pessoas reais, permitindo que qualquer pessoa produza versões manipuladas simulando nudez ou atos sexuais.
“A indexação desses sites pelo Google aumenta muito o alcance dessas tecnologias abusivas, facilitando crimes de violência de gênero e abuso infantil em grande escala. A rapidez com que isso se espalha exige uma ação rápida da empresa, já que medidas semelhantes foram adotadas para combater conteúdos de abuso sexual infantil e terrorismo”, afirma Yasmin Curzi, professora da FGV do Rio e coordenadora do estudo.
O Google declarou que está constantemente aprimorando suas proteções para ajudar pessoas afetadas por esse tipo de conteúdo e aperfeiçoa suas políticas para esse fim.
O relatório sugere que o Google remova esses sites de suas buscas, assim como faz com páginas que exibem imagens íntimas não autorizadas ou material de abuso sexual infantil.
“Essas ferramentas (nudify) são feitas para produzir imagens íntimas não autorizadas e de abuso sexual infantil”, destaca o estudo. “Ao indexar esses sites, o Google não só facilita o acesso a essas ferramentas de abuso, mas também legitima sua existência tratando isso como conteúdo normal.”
Os pesquisadores recomendam a criação de filtros automáticos para impedir que sites semelhantes sejam listados no futuro, além da remoção das sugestões automáticas para termos como “nudify”, “undress AI” e “deepnude”.
Essas plataformas violam a Lei Geral de Proteção de Dados ao usar imagens sem permissão e descumprem o Marco Civil da Internet, que exige remoção de conteúdos de nudez ou atos sexuais privados sem autorização. A justiça no Brasil já considera deepfakes sexuais como imagens íntimas não autorizadas.
O Google ainda afirmou que possui mecanismos simples para remoção desses conteúdos mediante denúncia e que ajusta constantemente seus sistemas para diminuir a visibilidade desse tipo de pornografia sintética e punir sites que infringem suas regras.
O estudo da FGV também registrou aumento expressivo nas buscas por termos relacionados a “free nudify” e “app nudify” no Brasil desde janeiro deste ano.
Muitas pessoas podem estar pesquisando para entender o que é, porém o mecanismo sugere outros aplicativos ao invés de apenas explicar o conceito.
Luã Cruz, especialista em direitos digitais do Idec (Instituto de Defesa de Consumidores), ressalta que o Google deve colocar filtros e revisar manualmente esses conteúdos sensíveis, pois a empresa consegue fazer isso facilmente para conteúdos com violação de direitos autorais que causam prejuízos econômicos.
Outro estudo nos Estados Unidos mostrou que a Google Play e a Apple App Store ofereciam muitos aplicativos do tipo nudify, apesar das políticas contra conteúdo inadequado.
O Google afirmou que sua loja tem regras rígidas contra apps com conteúdo sexual sintético e que eles removem esses apps ao identificar violações.
A geração dessas imagens falsas via IA se popularizou desde o lançamento do Grok, o chatbot do X (antigo Twitter), que permite criar essas imagens. O aumento de casos levou Indonésia e Malásia a bloquearem o acesso ao X, e o Reino Unido iniciou uma investigação sobre esses deepfakes sexualizados.
Em janeiro, órgãos brasileiros como a Secretaria Nacional do Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) recomendaram que o X adotasse medidas para impedir a divulgação dessas imagens sexualizadas reais.
Foi pedido que o X suspenda imediatamente as contas que criam imagens íntimas sem permissão, desenvolva processos para identificar e remover conteúdos sintéticos sexualizados e ofereça um canal para denúncias, além de relatórios de impacto.
O X afirmou que removeu milhares de postagens e suspendeu centenas de contas que violavam suas políticas, adotando medidas de segurança.
No entanto, a ANPD e outros órgãos dizem que não receberam provas concretas nem relatórios técnicos para avaliar a efetividade dessas ações.
Por isso, Senacon e ANPD exigiram que o X implemente rapidamente medidas para evitar que o Grok produza conteúdos sexualizados ou erotizados de crianças, adolescentes e adultos que não deram consentimento, e que informe as providências feitas.
O prazo para resposta do Grok termina no final deste mês. Caso não cumpra, poderá enfrentar processos administrativos, multas diárias e ações criminais por desobediência.
Luã Cruz enfatiza a urgência: “Queremos a suspensão imediata do Grok, pois consumidores são prejudicados diariamente. Não faz sentido deixar o serviço no ar enquanto aguardamos respostas, assim como se faz com carro ou remédio com problema. O ambiente digital não deveria ser diferente.”
