A Open Secure AI Alliance (OSAA), coalizão liderada pela Nvidia que em poucos dias já conta com a adesão de mais de 120 empresas, deu um salto expressivo rumo à segurança da inteligência artificial. O grupo anunciou a criação do SAFE, ou Intercâmbio Seguro de Descobertas em IA, um grupo de trabalho que já disponibilizou propostas para consulta pública.
As recomendações estão sob a gestão da Fundação Linux, também integrante da aliança, e foram elaboradas durante a Black Hat, tradicional conferência de cibersegurança realizada esta semana em Las Vegas. Sem trazer mudanças radicais, o material aborda pontos considerados essenciais, como a notificação sigilosa de incidentes de segurança envolvendo sistemas de IA, o aviso às partes impactadas e a realização de análises sem apontar culpados, para que o setor como um todo possa evoluir a partir dos erros.
Os membros da OSAA também vêm compartilhando fragmentos de seus próprios softwares de código aberto com potencial utilidade para a comunidade. A expectativa é que, no futuro, esses esforços se consolidem em mecanismos abertos que ajudem empresas a blindar seus agentes de inteligência artificial ou a se proteger de ataques promovidos por IAs hostis, como o caso recente de um modelo da OpenAI que conseguiu se infiltrar na plataforma Hugging Face, também signatária da iniciativa.
Entre as contribuições já anunciadas, a Nvidia disponibilizou uma família completa de modelos abertos e o Garak, um verificador de vulnerabilidades voltado a grandes modelos de linguagem. A Okta está desenvolvendo tecnologias de identidade para agentes, a Red Hat trabalha em soluções de governança e a Amazon entrou com o Strands Agents, ferramenta de construção de agentes, além da linguagem de autorização Cedar.
A coalizão reúne gigantes da tecnologia e do setor financeiro, como Adobe, BlackRock, Cisco, Intel, Microsoft e Visa. Chamam a atenção, porém, algumas ausências de peso: Anthropic, OpenAI e Google ainda não aderiram ao grupo, mesmo tendo assinado a carta aberta que originou a iniciativa. O documento, divulgado na semana passada e liderado pela Nvidia com o apoio de mais de 200 empresas, pediu ao governo norte-americano que apoiasse, em vez de sufocar, os avanços de IA de código aberto.
A ausência da Anthropic já era esperada, mas a postura de OpenAI e Google causa estranheza, uma vez que ambas já lançaram seus próprios modelos de peso aberto e o Google é historicamente um defensor do código aberto. Resta acompanhar se essas companhias se juntarão à aliança conforme o movimento ganhe tração.
A velocidade com que o grupo está atuando reflete a tensão do momento. A criação da OSAA foi impulsionada pelas notícias de que a administração norte-americana avaliava proibir modelos de peso aberto vindos da China, gerando forte inquietação no setor. Para nomes como o cofundador e diretor de tecnologia da Arcee, laboratório norte-americano de IA de peso aberto, a transparência pode ser justamente o melhor caminho para neutralizar qualquer ameaça, real ou exagerada, representada pelos laboratórios chineses.
"A abertura pode ser um dos caminhos mais importantes para a segurança da inteligência artificial", afirmou o grupo em sua carta. A julgar pela rapidez com que a aliança vem transformando declarações em entregas concretas, a disposição de colocar a mão na massa parece ser mesmo genuína.
Fonte: TechCrunch
