Uma carta enviada pelo Departamento de Comércio dos Estados Unidos à empresa Anthropic provocou uma onda de preocupação no setor tecnológico americano. O documento invocou uma diretiva obscura de controle de exportação que proibiu pessoas não americanas, incluindo os próprios funcionários da Anthropic, de acessarem os modelos Fable 5 e Mythos 5, sob alegação de preocupações não especificadas com a segurança nacional.
A empresa de inteligência artificial informou que acredita que a carta está relacionada a uma suposta falha nos mecanismos de proteção dos modelos, conhecidos como guardrails. No entanto, a Anthropic esclareceu que não possui certeza sobre a razão exata, uma vez que o documento governamental não forneceu detalhes específicos. Diante da situação, a empresa optou por desativar ambos os modelos para todos os clientes, garantindo assim o cumprimento da diretiva.
A intervenção da administração Trump neste caso demonstra que a indústria de inteligência artificial não está imune à interferência governamental. O episódio também serve como um aviso para o setor de tecnologia em geral: conformar-se ou correr o risco de ter produtos removidos do mercado.
Katie Moussouris, veterana em cibersegurança e fundadora da Luta Security, revelou em um artigo que a Anthropic recentemente compartilhou com ela uma cópia privada de um documento escrito por pesquisadores de segurança. O artigo descreve uma suposta violação dos guardrails no modelo Fable 5, e segundo o Wall Street Journal, os autores são pesquisadores de segurança da Amazon.
Moussouris explicou como os pesquisadores conseguem driblar as proteções do modelo, mas destacou que tal bypass jamais deveria ter acionado um controle de exportação. A diferença está principalmente em pedir à inteligência artificial para revisar código em busca de problemas de segurança versus solicitar que ela corrija o código. O resultado final é praticamente o mesmo, mesmo com as perguntas formuladas de maneira ligeiramente diferente.
A especialista criticou a diretiva de controle de exportação como apressada, pesada e equivoca. dezenas de outros pesquisadores de segurança e especialistas pediram à administração Trump que revogasse a ordem, considerando perigosa a remoção de capacidades avançadas de cibersegurança dos defensores de redes nos Estados Unidos.
Justin Hendrix, editor do Tech Policy Press, afirmou que a medida do governo Trump provavelmente causará preocupação em capitais estrangeiras sobre a confiabilidade da inteligência artificial americana para aplicações críticas. A mensagem transmitida é de que empresas de IA nos Estados Unidos não podem operar sem interferência do governo.
A administração Trump não confirmou os motivos pelos quais invocou a diretiva de controle de exportação. Resta saber se os oficiais misinterpretaram o relatório, se o CEO da Amazon, Andy Jassy, disse algo aos funcionários do governo que provocou a reação, ou se houve algum mal-entendido. Também é possível que a Casa Branca não estivesse ciente das consequências abrangentes da exigência da carta e esteja tentando reverter os danos causados.
O precedente estabelecido pelo governo demonstra o quanto pretende controlar a liberação de software fabricado nos Estados Unidos. Desta vez, o governo teve problemas com a Anthropic; amanhã, pode ser com qualquer outra empresa.
Fonte: TechCrunch
