Pesquisadores de segurança descobriram uma vulnerabilidade grave nas interfaces de programação de três gigantes do setor de inteligência artificial. A falha permitia que detalhes do processo de raciocínio das ferramentas de IA fossem extraídos de registros de sessão, incluindo chaves de acesso e senhas.
O problema estava na maneira como OpenAI, Anthropic e Google implementavam o chamada de raciocínio oculto entre suas interfaces de programação. Os objetos criptografados que armazenavam esse raciocínio interno apresentavam uma fragilidade que possibilitava sua reutilização entre sessões diferentes.
Segundo os especialistas, um bloco de dados gerado em uma sessão podia ser replayado em outra, permitindo que invasores recuperassem informações confidenciais que deveriam estar protegidas. A descoberta revela fragilidades nos mecanismos de segurança adotados por empresas que lideram o desenvolvimento de sistemas de IA avançados.
As empresas envolvidas foram notificadas sobre a vulnerabilidade e trabalham em correções para seus sistemas. Especialistas alertam que falhas desse tipo demonstram a necessidade de reforços constantes nos protocolos de proteção de dados em plataformas de inteligência artificial.
Fonte: The Hacker News
