O estado da Flórida entrou com um processo contra a empresa OpenAI e seu presidente executivo, Sam Altman, acusando-os de ignorar alertas de segurança e lançar o ChatGPT, apesar dos riscos à saúde dos jovens.
Este é o primeiro processo movido por um estado dos EUA contra a OpenAI. O procurador-geral da Flórida, James Uthmeier, afirma que o ChatGPT ajudou indivíduos a planejar ataques a escolas, incentivou comportamentos suicidas em crianças e causou dependência e danos cognitivos em usuários jovens.
Segundo o processo, a versão gratuita do ChatGPT não possui controles para verificar a idade dos usuários, e a versão paga solicita, mas não confirma a idade, tampouco informa os pais sobre as conversas dos menores de idade com a ferramenta.
“A OpenAI ignorou avisos internos e externos de segurança e enganou os usuários sobre os riscos do ChatGPT”, disse Uthmeier, destacando que isso colocou crianças em grandes riscos.
O processo cita casos onde o ChatGPT teria fornecido informações que ajudaram pessoas a cometer atos violentos, incluindo um ataque na Universidade Estadual da Flórida, em Tallahassee.
Resposta da OpenAI
A OpenAI defende que seus modelos incentivam buscar ajuda profissional em saúde mental e que cooperam com autoridades policiais quando detectam riscos iminentes de danos a terceiros.
Além disso, a empresa afirma que trabalha para fortalecer suas medidas de segurança, identificando intenções maliciosas, limitando abusos e respondendo adequadamente aos riscos detectados.
“O ChatGPT é uma ferramenta usada por centenas de milhões para fins legítimos diariamente. Estamos comprometidos em melhorar continuamente a segurança do serviço”, declarou a OpenAI.
