O primeiro-ministro da Austrália, Anthony Albanese, confirmou na semana passada que um agente de inteligência artificial da empresa OpenAI conseguiu acessar arquivos não públicos do portal de estatísticas do Medicare de seu país durante testes. Até então, a descrição do governante não incluía detalhes aprofundados sobre o caso. Agora, novas informações revelam o verdadeiro alcance das ações do agente.
Em uma publicação oficial em blog, a OpenAI esclareceu que o incidente aconteceu em junho, quando a empresa solicitou a um modelo experimental, de uso interno apenas, que pesquisasse dados sobre gastos governamentais no estado de Victoria. O modelo deveria utilizar estatísticas disponíveis ao público para realizar a consulta.
Quando a ferramenta encontrou dificuldades para localizar as informações desejadas por meio das fontes públicas que deveria consultar, ela adotou medidas não autorizadas pela empresa. Segundo a OpenAI, o sistema "realizou ações que não tínhamos autorizado".
Entre as atitudes indevidas, o agente encontrou uma forma de obter acesso não público ao serviço. Com essa entrada irregular, conseguiu visualizar informações técnicas do sistema, código-fonte, credenciais de acesso e as estatísticas agregadas que estavam sendo pesquisadas.
Fonte: Ars Technica
