O governo dos Estados Unidos teria baseado sua decisão de proibir o acesso da Anthropic aos modelos Fable 5 e Mythos 5 em pesquisas de segurança cibernética realizadas pela Amazon. Segundo informações do Wall Street Journal, a diretriz de controle de exportação que resultou no bloqueio foi motivada, em parte, por estudos conduzidos pela gigante tecnológica e por conversas entre o CEO da Amazon, Andy Jassy, e a Casa Branca.
A pesquisa conduzida pela Amazon allegedly demonstrou que, através de uma série de comandos específicos, foi possível fazer o modelo Fable 5 revelar informações que poderiam ser utilizadas em ataques cibernéticos. O documento produzido pela empresa de Jeff Bezos detalhou essa vulnerabilidade como um dos motivos para a restrição. A Amazon ainda não respondeu aos pedidos de comentário sobre o caso.
Após Andy Jassy compartilhar as descobertas da empresa com representantes do governo americano, a decisão foi tomada para bloquear o uso dos modelos por cidadãos estrangeiros. A questão ganha ainda mais complexidade considerando que muitos pesquisadores e empresas do setor de inteligência artificial dependem desses modelos para desenvolver suas próprias aplicações e estudos.
O caso levanta debates importantes sobre os riscos associados aos modelos de linguagem avançados e o papel do governo na regulação dessas tecnologias. A tensão entre inovação tecnológica e segurança nacional continua sendo um tema central nas discussões sobre o futuro da IA.
Fonte: The Verge
