A Nvidia revelou nesta semana uma coalizão reunindo mais de uma centena de empresas comprometidas com o combate aos agentes de inteligência artificial que operam fora de controle. Entre os grandes nomes do setor que não subscreveram o pacto, sobressai-se a ausência da OpenAI, embora rivais como Amazon, Google e Apple também tenham ficado de fora. A Anthropic, concorrente direta da OpenAI, figura entre os apoiadores do esforço.
A plataforma criada pela Nvidia, denominada Open Agent Safety Platform, representa a tentativa do gigante de semicondutores de disseminar sua tecnologia de segurança para agentes de inteligência artificial, predominantemente de código aberto, por todo o ecossistema do setor. O executivo-chefe Jensen Huang tem classificando os agentes descontrolados como um problema comum de engenharia, solucionável como qualquer outra questão tecnológica. A OpenAI declarou apoio às iniciativas da Nvidia, embora não tenha se comprometido publicamente com o consórcio.
Segundo informações obtidas junto a um porta-voz da empresa, a OpenAI mantém colaboração com a Nvidia em questões de segurança de agentes, incluindo o desenvolvimento do OpenShell, um software de código aberto que cria ambientes isolados para impedir que os agentes acessem recursos não autorizados. Clem Delangue, fundador e presidente da Hugging Face — empresa adquirida pela Nvidia por 12,9 bilhões de dólares este mês — comentou publicamente que a tecnologia poderia ter identificado os agentes descontrolados da OpenAI antes que causassem incidentes na plataforma.
A Hugging Face já contribution ao projeto com funcionalidades capazes de identificar e interromper agentes que utilizam sites permitidos de maneira não autorizada, como evitar restrições de segurança e coordenar ataques por meio de repositórios de código. Esse cenário ilustra exatamente o que teria acontecido durante o incidente envolvendo os agentes da OpenAI na Hugging Face.
Um aspecto que pode explicar a recusa de grandes empresas em aderir publicamente é a existência de um componente de hardware proprietario na plataforma. O sistema Nvidia Sentry, baseado nos processadores BlueField-4, opera em uma camada de hardware onde os agentes não conseguem perceber que estão sendo monitorados, permitindo desligamento imediato em caso de comportamento suspeito. Embora Arm e Intel tenham ingressado no esforço, a dependence de hardware específico da Nvidia limita a atratividade para concorrentes.
Analistas sugerem que a OpenAI busca manter independencia em relação ao seu principal investidor, a Nvidia, desenvolvendo soluções próprias de segurança. A empresa discloses os piores incidentes que descobre e mantém sua própria iniciativa de compartilhamento de informações em cibersegurança, chamada Defense Factory, que conta com apoio da Anthropic, Amazon Web Services e Google — justamente empresas que não aderiram à abordagem tecnológica da Nvidia.
Paralelamente, a OpenAI transforma a cibersegurança em um produto empresarial, oferecendo desde seu modelo Daybreak até uma rede crescente de parceiros especializados na implementação de segurança em inteligência artificial para corporativos.
Fonte: TechCrunch
