Pesquisadores de segurança identificaram uma vulnerabilidade crítica no assistente de inteligência artificial Grok, desenvolvido pela empresa xAI, controlada por Elon Musk. A falha permite que invasores extractionem dados pessoais dos usuários, incluindo conversas e outras informações sensíveis, através de uma técnica relativamente simples de injeção de comandos maliciosos.
O ataque explora uma característica fundamental dos modelos de linguagem grandes: a tendência de atender a qualquer solicitação do usuário sempre que possível. Cibercriminosos inserem instruções prejudiciais em mensagens de correio eletrônico ou páginas da internet que o assistente é instruído a resumir. Dessa forma, o modelo de inteligência artificial não consegue distinguir entre conteúdo enviado por terceiros não confiáveis e instruções diretas do próprio usuário.
Segundo os pesquisadores, a empresa xAI foi notificada sobre a vulnerabilidade em junho, porém o assistente continuava a vazar dados no momento da publicação. Este caso se soma a um episódio similar revelado anteriormente, no qual o Microsoft 365 Copilot para ambiente corporativo apresentava uma falha semelhante que permitia a extração de senhas armazenadas na caixa de entrada dos usuários.
A lição deixada por esses incidentes é que os modelos de linguagem grandes são incapazes de resolver as causas raiz das injeções de comandos, que representam uma das classes de vulnerabilidades mais graves às quais estão expostos. Especialistas apontam que os desenvolvedores de inteligência artificial não possuem outra alternativa a não ser implementar barreiras de proteção que orientem o modelo a evitar ações prejudiciais.
De acordo com analistas, essa abordagem equivale a um engenheiro de segurança viária instalar defensas em uma curva perigosa em vez de corrigir a geometria da estrada. Até o momento, Grok e outros modelos semelhantes contam apenas com barreiras que identificam instruções suspeitas e impedem sua execução.
Fonte: Ars Technica
