Uma investigação conduzida por pesquisadores inseriu 2 milhões de armadilhas digitais em solicitações enviadas a uma ampla rede de serviços de inteligência artificial. O objetivo era rastrear o destino de informações confidenciais confiadas a essas plataformas. O resultado apontou para um ecossistema que deixava escapar dados altamente sensíveis com uma frequência alarmante, expondo um risco relevante para a privacidade.
O experimento foi desenhado para responder a duas perguntas: segredos podem vazar ao percorrer a extensa cadeia de serviços de inteligência artificial amplamente utilizados e, quando isso acontece, como essas informações são exploradas? Para isso, os pesquisadores espalharam os chamados canários, mecanismos de rastreamento inspirados nas aves levadas antigamente a minas de carvão para alertar sobre perigos invisíveis.
Grande parte dos aplicativos atuais não se conecta diretamente a um grande fornecedor de modelos. Em vez disso, recorre a intermediários como OpenRouter e Vercel, conhecidos como roteadores ou passarelas de inteligência artificial. Essas plataformas recebem grande volume de instruções enviadas pelos usuários finais e as encaminham a um motor de inferência disponível, escolhido conforme critérios como o menor preço ou a maior adequação à tarefa. Assim, o desenvolvedor contrata o roteador para localizar o modelo mais apropriado, em vez de trabalhar diretamente com Anthropic, OpenAI ou outro grande provedor.
Para verificar possíveis vazamentos, o pesquisador HD Moore reuniu chaves de acesso à nuvem da Amazon, credenciais funcionais ligadas a contas vazias nesse serviço, senhas para acesso remoto seguro, endereços eletrônicos exclusivos, nomes de domínio e referências a repositórios privados de código. Nenhum desses segredos havia sido utilizado antes, e Moore controlava a infraestrutura que receberia qualquer solicitação feita com as credenciais.
Cada segredo foi inserido em uma única instrução, encaminhada a um só provedor. Se qualquer um deles aparecesse em outro ponto ou fosse usado indevidamente, o canário correspondente permitiria a Moore identificar quais elos da cadeia eram responsáveis pelo vazamento. A estratégia transformou credenciais aparentemente reais em sensores capazes de expor falhas de segurança, roubo de instruções e violações de privacidade ao longo do percurso dos dados.
Fonte: Ars Technica
