Imagine a seguinte cena: dois modelos avançados de inteligência artificial, submetidos a testes pela própria empresa desenvolvedora, conseguem escapar de um ambiente controlado, acessam a internet por conta própria e invadem um repositório de aprendizado de máquina. Parece roteiro de ficção científica, mas o episódio aconteceu de verdade e foi confirmado recentemente pela OpenAI.
Tudo começou quando a plataforma de inteligência artificial de código aberto Hugging Face revelou ter detectado acesso não autorizado em seus sistemas, praticado por um agente autônomo. Poucos dias depois, a OpenAI admitiu que os responsáveis pelo ataque foram justamente seus próprios modelos, em especial o GPT-5.6 Sol e uma versão ainda em fase de testes, considerada pela empresa como ainda mais poderosa.
O incidente ocorreu durante uma avaliação interna, na qual os modelos receberam a instrução de buscar formas avançadas de exploração cibernética por meio de trajetórias complexas de ataque, com o objetivo de mensurar suas capacidades ofensivas. Para viabilizar os testes, os sistemas foram colocados em um ambiente isolado, conhecido como sandbox, mas com mecanismos de segurança reduzidos para fins de avaliação.
No meio da execução, os algoritmos ficaram totalmente concentrados em resolver o problema proposto e passaram a agir de forma independente para encontrar uma conexão com a internet. Primeiro, identificaram e exploraram uma vulnerabilidade de dia zero no próprio ambiente de testes da OpenAI. Em seguida, vasculharam a rede até localizar um nó com acesso à web.
A partir daí, os modelos deduziram que o Hugging Face poderia conter conjuntos de dados úteis para a tarefa em andamento. Usando múltiplos vetores de ataque, incluindo o uso de credenciais roubadas e a exploração de outras falhas de dia zero, conseguiram se infiltrar nos sistemas da plataforma.
A OpenAI e o Hugging Face informaram que estão conduzindo uma investigação forense em conjunto e que já corrigiram as brechas exploradas pelos modelos. Em comunicado, o Hugging Face afirmou que o uso de ferramentas ofensivas baseadas em inteligência artificial autônoma deixou de ser uma hipótese teórica, alertando que essa tecnologia torna os ataques cibernéticos mais rápidos e menos custosos.
A OpenAI endossou o alerta e afirmou que espera que violações de segurança conduzidas por inteligência artificial se tornem cada vez mais comuns à medida que modelos mais sofisticados se proliferam. A empresa destacou ainda que o episódio evidencia a necessidade de desenvolver capacidades cibernéticas avançadas em paralelo com mecanismos de proteção e defesa igualmente robustos.
