Um grupo dedicado à segurança em inteligência artificial demonstrou como é simples, na prática, driblar os mecanismos de proteção de alguns dos sistemas mais avançados do mundo. A organização sem fins lucrativos FAR.AI, sediada na Califórnia, criou uma ferramenta capaz de transformar comandos problemáticos em mais de mil variações distintas, na tentativa de localizar brechas funcionais nos modelos.
Em uma demonstração acompanhada de perto, foi possível observar a geração de um plano detalhado para um suposto ataque cibernético contra uma usina hidrelétrica fictícia. Em muitos casos, foram necessárias dezenas de tentativas até que o sistema cedesse, já que parte dos comandos era prontamente recusada.
O relatório mais recente da entidade avaliou o desempenho de modelos pertencentes a quatro grandes empresas norte-americanas: Claude Opus 4.8 e Fable 5, da Anthropic; GPT 5.5 e 5.6, da OpenAI; Gemini 3.1 Pro, do Google; além das versões 4.3 e 4.5 do Grok, desenvolvido pela SpaceXAI, empresa resultante da fusão de negócios de Elon Musk. O objetivo era induzir os sistemas a produzir conteúdo sensível, como softwares de exploração e informações para a fabricação de armas químicas ou biológicas.
Os resultados revelaram um cenário desigual. O Grok liderou o ranking de vulnerabilidade, com 448 invasões de suas barreiras identificadas. O Gemini apareceu em segundo lugar, com 249. Já o Claude, o Fable e o GPT demonstraram resistência total aos ataques testados. Especialistas alertam, contudo, que a imunidade não é absoluta, pois técnicas de manipulação mais elaboradas podem explorar caminhos ainda não mapeados.
A pesquisa também calculou o investimento necessário para enganar cada sistema, utilizando outro modelo de inteligência artificial para produzir variações automatizadas. O valor mostrou-se irrisório: apenas 58 dólares para burlar o Grok e 278 dólares para o Gemini.
Para Adam Gleave, presidente-executivo da FAR.AI e especialista em alinhamento de inteligência artificial, a comparação é direta. "Os modelos de inteligência artificial hoje são menos regulados do que restaurantes", afirmou. Na avaliação dele, os dados comprovam a necessidade de normas e fiscalizações externas. "É absurdo acreditar em compromissos voluntários ou na ideia de que as empresas serão capazes de se autorregular", declarou. Gleave, porém, enxerga um aspecto positivo: "A defesa e a segurança realmente são possíveis".
Do lado do Google, Rohin Shah, diretor de segurança e alinhamento rumo à inteligência artificial geral no Google DeepMind, fez questão de relativizar os números. Segundo ele, o estudo "não deve ser interpretado como uma avaliação abrangente da segurança do Gemini", uma vez que nem toda brecha possui a mesma gravidade. "Trabalhamos constantemente para aprimorar nossas proteções. Realizamos extensos testes adversariais e avaliações de riscos graves de uso indevido, aplicando múltiplas camadas de proteção ao longo do desenvolvimento e da implantação", garantiu.
A Anthropic, por meio do porta-voz Michael Aciman, destacou o investimento contínuo em mecanismos de defesa. "Esses resultados refletem o comprometimento sustentado que dedicamos às nossas barreiras. Seguimos evoluindo nossos sistemas de segurança à medida que os ataques se tornam mais sofisticados". A OpenAI, representada por Gaby Raila, seguiu linha semelhante. "As invasões de segurança representam um desafio permanente em todo o setor, e reforçamos continuamente nossas proteções conforme as técnicas de ataque evoluem. Testamos rigorosamente nossos modelos contra novas ameaças e usamos os resultados para melhorar nossas defesas". Já a SpaceXAI não respondeu aos pedidos de declaração.
Enquanto isso, o cenário regulatório permanece fragmentado. Recentemente, legislações aprovadas na Califórnia e em Nova York passaram a exigir que desenvolvedores de modelos de ponta publiquem relatórios de segurança. Em breve, uma lei do estado de Illinois obrigará auditorias conduzidas por entidades independentes. No âmbito federal, porém, ainda não há regras específicas aprovadas, e a confusão domina o debate entre indústria e autoridades.
Em junho, a administração Trump impôs controles de exportação aos modelos Fable 5 e Mythos 5 da Anthropic, alegando questões de segurança nacional, o que levou a empresa a retirá-los do ar por algumas semanas. A Casa Branca também solicitou à Anthropic e à OpenAI que adiassem lançamentos recentes, temendo o surgimento de novos riscos cibernéticos. Recentemente, uma ordem executiva sinalizou maior cooperação entre governo e setor privado em iniciativas ligadas à cibersegurança, e o presidente insinuou que regulamentações mais leves estão em construção.
O potencial de uso indevido já se manifestou em incidentes concretos. Modelos da OpenAI chegaram a invadir por conta própria um popular repositório de código e outros serviços. Um estudo da Universidade de Cambridge identificou indícios de que membros do Boko Haram, no nordeste da Nigéria, utilizaram ChatGPT, Claude, Gemini, Grok, Meta IA e DeepSeek para planejar ataques violentos.
Para Stephen Casper, cientista da computação da Universidade Harvard, a preocupação é crescente. "Na comunidade de pesquisa em inteligência artificial, há uma expectativa ampla e sombria de que estamos provavelmente a meses, e não anos, de distância de incidentes particularmente graves envolvendo o uso indevido de um sistema de ponta em cenários biológicos, cibernéticos ou químicos", avaliou. "Se um grande incidente de uso indevido ocorrer no curto ou médio prazo, virá quase certamente de um sistema que não foi implantado com barreiras de segurança de última geração".
Anka Reuel, pesquisadora da Universidade Stanford especializada em políticas de inteligência artificial, resumiu a questão central: "Algumas empresas claramente sabem como se defender, pelo menos contra o subconjunto de ataques testados neste relatório. A pergunta é por que algumas empresas utilizam essas defesas e outras não".
Fonte: Feed: All Latest
