Adolescentes entraram com uma ação judicial contra a xAI nos Estados Unidos, acusando a empresa de criar imagens de teor sexual por meio de seu chatbot. Os jovens alegam que essas imagens são inapropriadas e prejudiciais, levantando questões sobre a responsabilidade das empresas que desenvolvem inteligência artificial.
O caso chama a atenção para os desafios no controle do conteúdo gerado por sistemas automatizados e destaca a necessidade de regulamentações mais rigorosas para proteger menores. Especialistas afirmam que a tecnologia precisa ser aperfeiçoada para evitar a criação e disseminação de conteúdos impróprios.
Este processo pode abrir precedentes importantes para ações futuras envolvendo inteligência artificial e direitos dos usuários, principalmente no que diz respeito à proteção de adolescentes e crianças na internet.