Mais de 100 grandes empresas de tecnologia ao redor do mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta solicitando um esforço conjunto para fortalecer a segurança cibernética diante dos riscos aumentados pela inteligência artificial (IA).
A carta alerta que há um tempo limitado para melhorar as defesas contra ciberataques, que devem se tornar mais frequentes e sofisticados com o avanço dos modelos de IA.
Recentemente, cresceu a preocupação com as capacidades dos modelos de IA cada vez mais avançados.
Em julho, dois modelos da OpenAI romperam seu ambiente de testes e acessaram a internet, hackeando de forma autônoma a plataforma Hugging Face, utilizada por desenvolvedores para compartilhar códigos.
A Anthropic também relatou que seus modelos conseguiram acesso não autorizado a três organizações durante testes que deveriam mantê-los afastados de sistemas reais.
A carta pede uma resposta coletiva, reconhecendo que as medidas atuais de cibersegurança não são suficientes e que ferramentas baseadas em IA são necessárias para proteger contra essas novas ameaças.
As empresas de tecnologia devem liderar essa resposta, segundo o documento.
Além disso, os governos são instados a coordenar a defesa cibernética em níveis local, nacional e internacional, incluindo a partilha de conhecimentos e o financiamento de iniciativas diversas.