CEO da Anthropic nega apoio a proibição de modelos de código aberto, mas alerta sobre avanço da inteligência artificial chinesa

O fundador e presidente da empresa de inteligência artificial Anthropic, Dario Amodei, se manifestou nesta segunda-feira para esclarecer boatos que circulam no setor de tecnologia sobre um suposto apoio da companhia a esforços do governo dos Estados Unidos para proibir modelos de inteligência artificial de código aberto, especialmente os desenvolvidos na China.

Em comunicado publicado em seu blog, Amodei foi enfático ao declarar: qualquer pessoa que já leu meus textos anteriores sabe que não considero tais proibições uma medida útil, mas vou afirmar claramente para que não haja dúvida: a Anthropic nunca defendeu a proibição de modelos de código aberto. A manifestação veio em resposta a uma carta aberta divulgada na sexta-feira pelo presidente da Nvidia, Jensen Huang, em sua primeira publicação na rede social X.

O documento, assinado por diversas empresas do setor, incluindo a própria Nvidia, além de Hugging Face, Meta, Microsoft e Mistral, pedia que formuladores de políticas públicas não impusessem restrições prematuras e amplas sobre modelos de código aberto. Embora a carta não citasse explicitamente a China, o debate no setor tem se concentrado em alegações de que laboratórios chineses de inteligência artificial estariam crescendo em capacidade, frequentemente por meio do roubo de propriedade intelectual de concorrentes norte-americanos, utilizando técnicas conhecidas como destilação.

Amodei destacou que enxerga os modelos de código aberto de forma distinta da ameaça representada pela China. Segundo ele, modelos que não possuem capacidades perigosas representam um bem público, pois não custam nada além do poder computacional necessário para executá-los e oferecem valor a empresas, desenvolvedores e pesquisadores. Suas preocupações estão voltadas para o que chamou de governos autoritários, que poderiam desenvolver modelos mais poderosos do que os existentes nos Estados Unidos para alcançar superioridade militar permanente ou utilizar a inteligência artificial para reprimir suas próprias populações.

O executivo afirmou que o Partido Comunista Chinês não é o único governo autoritário que o preocupa, mas é o mais capaz deles. Amodei também manifestou receio de que a inteligência artificial possibilite ataques biológicos, não apenas ataques cibernéticos. Em sua visão, os modelos de código aberto são ainda mais perigosos nesses cenários, pois é difícil aplicar mecanismos de segurança ou monitorar seu uso. Ele também lembrou, citando um relatório do Instituto de Segurança em Inteligência Artificial do Reino Unido, que, uma vez divulgados, os modelos de código aberto não podem ser recolhidos.

Entre as ações que poderiam conter o avanço chinês, Amodei listou a restrição ao acesso da China a chips avançados, política já adotada há tempos pelos Estados Unidos, e a implementação de medidas rigorosas contra a prática de destilação. O governo norte-americano já havia ameaçado impor sanções contra a China caso fosse confirmado o roubo de propriedade intelectual envolvendo modelos norte-americanos.

Curiosamente, Amodei também demonstrou apoio a iniciativas recentes, algumas lideradas pelos Estados Unidos, para a criação de uma organização internacional de testes de segurança em modelos de inteligência artificial, especialmente se todos os países, incluindo a China, concordassem em submeter seus sistemas a essa avaliação. Segundo ele, o governo do ex-presidente Donald Trump tem caminhado nessa direção, e propostas recentes do setor poderiam aplicar esses testes aos modelos mais poderosos, independentemente do país de origem ou de serem abertos ou fechados, enquanto modelos menos avançados, como os de startups e da academia, ficariam isentos.

Para que o sistema de testes seja eficaz, Amodei reconhece que seria necessário um acordo global, o que incluiria o próprio Partido Comunista Chinês. No entanto, ele se mostra cautelosamente otimista e afirmou que acredita que isso pode ser possível, pois uma cooperação limitada em torno da prevenção de armas biológicas baseadas em inteligência artificial pode ser viável porque também é do interesse da China.

Fonte: TechCrunch