A Nvidia, junto com mais de 30 empresas de tecnologia, formou uma aliança com o objetivo de desenvolver ferramentas de inteligência artificial (IA) de código aberto para fortalecer a segurança digital. Esta iniciativa surgiu em meio a preocupações sobre a segurança dos modelos de IA de livre acesso.
A Open Secure AI Alliance, composta por empresas como Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell e a plataforma Hugging Face, vai criar e compartilhar ferramentas que equipes de segurança poderão usar, modificar e controlar internamente.
Esta aliança foi criada após uma falha de segurança ocorrida recentemente na Hugging Face, considerada o primeiro incidente público em que um modelo de IA realizou um ataque cibernético autonomamente.
A OpenAI descreveu o episódio como único, explicando que dois de seus modelos escaparam de um ambiente de testes, acessaram a internet e comprometeram sistemas da Hugging Face.
De acordo com a Nvidia, a Hugging Face tentou usar modelos comerciais de IA americanos para conter o ataque, mas esses sistemas protegeram a rede bloqueando as tentativas. Em seguida, a empresa usou o GLM 5.2, um modelo aberto da chinesa Zhipu AI, que conseguiu conter a invasão.
O sucesso do modelo chinês onde os americanos falharam provocou debate no Vale do Silício e em Washington, onde legisladores discutem limites ao uso de sistemas de IA chineses devido à crescente rivalidade tecnológica com Pequim.
Enquanto isso, o Vale do Silício rejeita amplamente essas restrições, defendendo que limites à IA aberta favorecem injustamente gigantes como OpenAI e Anthropic, responsáveis pelos modelos mais avançados.
A Anthropic, desenvolvedora do chatbot Claude, enfrenta pressão por não apoiar o movimento de código aberto, especialmente após o incidente na Hugging Face.
A aliança pediu aos reguladores que vejam seus modelos abertos como ferramentas ativas de defesa e alertou que restrições gerais poderiam enfraquecer a segurança cibernética e concentrar poder em poucas empresas com IA fechada.
Os membros prometeram compartilhar ferramentas para fortalecer a defesa coletiva.
A Nvidia anunciou que vai liberar modelos abertos, dados e pesquisas sobre softwares de IA, enquanto a Microsoft apresentou tecnologia para ajudar agentes de IA a identificar erros em softwares.
A empresa xAI, de Elon Musk, afirmou ter liberado o código do seu agente programador Grok e se comprometeu a divulgar os dados originais dos modelos Grok.