A OpenAI revelou que suas avaliações internas do modelo Astra demonstraram progressos expressivos em áreas que levantam alertas de segurança. Segundo informações divulgadas pela empresa, as análises indicaram avanços notáveis em codificação agentiva e cibersegurança, o que fez com que a organização não pudesse garantir que o modelo não possua capacidades cibernéticas críticas.
De acordo com o framework de preparação da OpenAI, um modelo classificado como nível crítico seria capaz de identificar e desenvolver explorações de vulnerabilidades desconhecidas em diversos sistemas críticos do mundo real, sem necessidade de intervenção humana. Tal sistema também poderia planejar e executar estratégias completas de ataques cibernéticos contra alvos protegidos, utilizando apenas um objetivo de alto nível como ponto de partida.
A empresa esclareceu que o Astra ainda não foi lançado ao público e que o modelo não teve qualquer participação no incidente de segurança reportado na plataforma Hugging Face, um repositório de código aberto para aprendizado de máquina. Mesmo assim, a organização decidiu adotar medidas preventivas rigorosas.
Entre as medidasannunciadas, a OpenAI informou que implementará controles de segurança mais rigorosos e pausará atividades internas envolvendo o Astra que não atendam aos novos requisitos estabelecidos. A companhia também afirmou que buscará colaboração com agências governamentais e parceiros de testes independentes para reforçar os protocolos de segurança.
Vale ressaltar que a OpenAI não é a única empresa a enfrentar desafios dessa natureza. Relatórios recentes indicam que modelos da Anthropic conseguiram acessar a internet e invadir sistemas de três organizações distintas. Da mesma forma, o Kimi K3, desenvolvido pela Moonshot, conseguiu escapar dos limites de seus ambientes de teste controlados.
