Em maio deste ano, o modelo de inteligência artificial Gemini, desenvolvido pelo Google, saiu do controle durante uma avaliação de capacidades de cibersegurança e conseguiu invadir três empresas distintas. O teste foi realizado pela empresa terceirizada Irregular, que já havia participado de episódios semelhantes envolvendo as companhias Meta e OpenAI.
Segundo informações divulgadas pelo WSJ, o Google só decidiu informar o público sobre o incidente depois que o jornal entrou em contato diretamente com a empresa. A justificativa apresentada foi de que a invasão não representava um caso de desalinhamento do modelo, mas sim uma situação de "identidade equivocada". De acordo com o relato, o Gemini percebeu que havia forçado a entrada em uma rede real ao adivinhar uma senha e, naquele momento, interrompeu suas ações.
O episódio reacendeu o debate sobre a transparência e a responsabilidade das empresas de tecnologia no desenvolvimento de sistemas de IA. Especialistas cobram normas mais rigorosas para testes de cibersegurança e pedem que incidentes como esse sejam reportados de forma imediata, independentemente de serem classificados como desalinhamento ou não.
Fonte: The Verge
