A empresa de inteligência artificial Anthropic revelou nesta semana que interceptou diversas tentativas de cientistas que tentaram utilizar sua tecnologia para pesquisas que poderiam auxiliar no desenvolvimento de armas biológicas. O caso levantó preocupações crescentes entre especialistas sobre os riscos que a inteligência artificial representa para a segurança pública mundial.
Segundo relatório divulgado pela empresa, foram identificados cinco episódios em que atores mal-intencionados conseguiram contornar os controles de segurança e ocultar a verdadeira finalidade de suas pesquisas. Essas táticas tinham como objetivo driblar os mecanismos de proteção implementados pela companhia para evitar o uso indevido de seus modelos de linguagem.
As investigações revelaram que alguns dos usuários envolvidos nas tentativas estavam localizados em países aos quais a Anthropic proíbe o acesso a suas tecnologias, incluindo Rússia, China e Irã. A empresa esclareceu que mantém restrições geográficas rigorosas para nações sancionadas.
Em comunicado oficial, a Anthropic afirmou que espera que a divulgação desses casos provoque um debate profundo dentro da indústria de inteligência artificial e junto aos governos mundiais sobre os riscos biológicos emergentes e as melhores formas de combatê-los.
Fonte: Ars Technica
