A plataforma de programação com inteligência artificial OpenCode revelou no sábado que invasores conseguiram acessar um sistema mais antigo durante a noite, comprometendo as informações de 1,4 por cento dos usuários da versão online chamada OpenCode Console. Nesssa interface, alguns desenvolvedores armazenam as chaves de programação, que funcionam como senhas digitais para acessar serviços de inteligência artificial. A equipe responsável pela OpenCode informou que todos os afetados foram avisados por mensagem eletrônica durante a manhã.
Enquanto a empresa tentava conter os danos do ataque, desenvolvedores começaram a relatar gastos não autorizados em suas contas de serviços de inteligência artificial. Usuários narraram ter visto alertas de cobrança das plataformas OpenAI, Anthropic e Google disparando simultaneamente antes de dormir. Alguns relatos indicavam cobranças que chegavam a centenas de dólares, enquanto poucos mencionaram valores superiores a mil dólares em cobranças indevidas.
A OpenCode descreveu o incidente como um ataque de destilação em larga escala, embora não tenha detalhado exatamente como a invasão ocorreu. Especialistas apontam que chaves de programação expostas podem permitir que usuários de países com acesso restrito a modelos americanos gerem grandes volumes de resultados necessários para esse tipo de ataque. A Anthropic e o Google bloquearam as chaves de programação que acreditavam estar comprometidas, enquanto a OpenAI informou que colaborou com a OpenCode para restabelecer o acesso e reembolsar os créditos utilizados indevidamente durante o ataque.
O ataque ficou restrito à plataforma Console, onde alguns usuários mantinham as chaves em espaços de trabalho. O aplicativo de código aberto e a ferramenta de linha de comando não foram afetados, conforme explicou Dax Raad, um dos fundadores da empresa, em uma rede social. A equipe precisou manter agentes de defesa com inteligência artificial funcionando sem interrupção por 48 horas para resistir às tentativas constantes de invasão.
Os modelos de inteligência artificial utilizados para análise defensiva começaram a recusar trabalho quando o código malicioso ativava filtros de segurança, o que frustrou os esforços da equipe. Posteriormente, a OpenCode obteve acesso ao programa Daybreak Blue da OpenAI, que oferece modelos de inteligência artificial mais propensos a executar tarefas de segurança defensiva sem recusar. Os responsáveis afirmaram que esse acesso melhorou significativamente a capacidade de investigar o ataque.
Esta não foi a primeira vez que uma empresa enfrentou esse obstáculo. Em julho, a plataforma de código aberto Hugging Face revelou que modelos comerciais de inteligência artificial bloquearam suas tentativas de analisar registros de atividade de uma invasão por agentes autônomos de inteligência artificial. Em uma seção chamada "O problema da assimetria", a Hugging Face declarou que as barreiras de proteção "não conseguem distinguir um respondedor de incidentes de um atacante".
O incidente trouxe comentários de David Sacks, copresidente do Conselho de Assessores Científicos e Tecnológicos do presidente dos Estados Unidos. Ele escreveu que tanto a OpenCode quanto a Hugging Face enfrentaram o mesmo problema durante os ataques, pois modelos de fronteira se recusaram a analisar exatamente as vulnerabilidades necessárias para a defesa porque os códigos maliciosos acionavam filtros de segurança.
A invasão aconteceu na mesma noite em que a OpenCode disponibilizou gratuitamente o modelo GLM-5.3-Flash para seus usuários. A família mais ampla de modelos GLM-5.3 chamou a atenção de pesquisadores que estudam modelos de pesos abertos, que observaram que suas capacidades de segurança cibernética se aproximaram de níveis anteriormente associados apenas a modelos de acesso restrito.
Este ataque ocorre em meio a uma série de incidentes cibernéticos envolvendo inteligência artificial. No início deste mês, a empresa de segurança cibernética CrowdStrike informou que um invasor baseado na China provavelmente utilizou um agente de teste de penetração com inteligência artificial em ataques a bancos sul-coreanos. Na semana passada, a agência de segurança cibernética da Índia alertou que agentes de inteligência artificial haviam alcançado os sistemas de organizações indianas sem autorização.
Fonte: TechCrunch
