As empresas Anthropic, Google, Meta, Microsoft, Mistral e OpenAI firmaram um acordo na União Europeia para que seus chatbots de inteligência artificial incluam uma identificação que mostra que o texto foi criado por máquinas.
Embora os textos não apresentem mudanças visíveis, essa identificação ficará nos metadados e poderá ser detectada por programas de computador. A Anthropic, que é proprietária do Claude, vai explicar em breve como essa ferramenta funcionará.
O acordo valerá para todo o mundo, apesar de a legislação ser vigente apenas nos países da União Europeia. Entre as grandes empresas do setor, a única que não aderiu a esse código de transparência é a xAI, ligada a Elon Musk e responsável pelo Grok.
Segundo pesquisas, a presença dessa marca pode reduzir o valor percebido dos textos gerados por IA. Um estudo da OpenAI em 2024 indicou que cerca de 30% dos usuários usariam menos a plataforma se os textos tivessem essa identificação ativa. Isso acontece não pela qualidade do texto, mas pelo receio de estigmatização e afastamento dos leitores.
Por conta desses resultados, uma técnica para marcação de textos no ChatGPT, criada em agosto de 2024, não foi utilizada até agora.
Atualizações recentes nas políticas da OpenAI e da Anthropic indicam que mudanças para os modelos já ativos estão em andamento. IAs lançadas na Europa desde 2 de agosto devem cumprir os requisitos de transparência.
OpenAI afirmou que pretende ampliar os indicadores de origem para todos os tipos de conteúdo, para que clientes e desenvolvedores tenham opções claras para cumprir suas obrigações de transparência conforme as ferramentas e padrões evoluem.
A Anthropic explicou que os textos gerados terão marcas d’água invisíveis e os arquivos incluirão metadados com assinatura digital quando possível.
Essa marcação será aplicada nas respostas criadas pelas versões do Claude na plataforma da Anthropic e também por provedores de nuvem como AWS, Google Cloud e Microsoft Foundry que oferecem a IA.
A marca d’água é imperceptível e não altera o significado, qualidade ou leitura do texto. A Anthropic também está atualizando modelos já lançados para incluir a marcação conforme o prazo dado pela legislação.
Essa identificação permanece mesmo se o texto for copiado e colado, resistindo a edições parciais, mas o método ainda tem limitações técnicas, reconhecidas pela própria Anthropic.
Stephen Turner, professor de ciência de dados da Universidade da Virgínia, destaca que o sistema apresenta falhas: textos modificados podem ser falsamente identificados, e textos criados por humanos podem ser erradamente marcados como criados pelo Claude.
Além disso, os metadados podem ser removidos da internet, assim como ocorre com imagens geradas por IA.