A Anthropic dedicou os últimos cinco anos a alertar o mundo sobre os perigos da inteligência artificial avançada, advertindo que ela poderia causar destruição em massa, desestabilizar a sociedade e provocar uma série de outros danos graves. No entanto, a empresa se tornou simultaneamente uma das forças mais poderosas impulsionando o desenvolvimento dessa mesma tecnologia. Atualmente, a Anthropic está entre os principais desenvolvedores e distribuidores de modelos de IA de ponta e busca clientes como as forças armadas dos Estados Unidos, sendo avaliada em quase um trilhão de dólares.
À primeira vista, a mensagem alarmista da empresa parece contradizer suas ações. Mas dentro da própria Anthropic, muitos não veem essa contradição. Para compreender o motivo, é necessário entender que a empresa opera com base em duas crenças fundamentais. A primeira é que a inteligência artificial é a tecnologia mais transformadora da história humana, e sua chegada é inevitável. A única questão real é se ela levará à catastrophe ou a uma prosperidade extraordinária.
A segunda crença é que o mundo será um lugar melhor se a Anthropic permanecer na fronteira da corrida pela IA, segundo vários ex-funcionários que falaram sob condição de anonimato. Internamente, os líderes e funcionários da empresa frequentemente se referem a si mesmos como os "bons", significando aqueles que são administradores responsáveis da tecnologia, afirmaram duas fontes. A empresa vê a acumulação de poder, seja na forma de capital, computação, talento de pesquisa ou influência política, não como um fim em si mesmo, mas como o preço para cumprir sua missão de garantir que o mundo faça com segurança a transição através da IA transformadora.
Helen Toner, diretora executiva do Centro de Segurança e Tecnologia Emergente de Georgetown e ex-membro do conselho da OpenAI, usa uma analogia para descrever a visão de mundo da Anthropic. Ela compara uma IA poderosa a uma floresta cheia de tesouros mágicos e monstros perigosos. Todos os villagers próximos estão correndo para dentro, atraídos pelo tesouro. Na narrativa de Toner, a Anthropic quer se aventurar mais fundo na floresta do que qualquer outro, investindo fortemente em domesticar os monstros, ou seja, capturando os benefícios da IA enquanto contém os riscos catastróficos.
"O que distingue a Anthropic é que eles dizem: 'As pessoas vão entrar na floresta de qualquer maneira, temos que fazer isso primeiro'. Esta é muito explicitamente sua estratégia: construir IA de ponta para ser um jogador sério na mesa que pode falar sobre como são os sistemas de IA de ponta, quais riscos eles representam e defender salvaguardas razoáveis", disse Toner.
A Anthropic foi fundada em 2021 por um grupo de ex-funcionários da OpenAI que saíram depois de perder a fé na capacidade da liderança da empresa, particularmente do diretor executivo Sam Altman, de trazer com segurança a IA transformadora ao mundo. Esse sentimento ainda molda a empresa hoje. Dois dos ex-funcionários disseram que, em discussões internas, os executivos da Anthropic frequentemente descrevem Altman e a OpenAI, e em menor medida a Meta e a xAI de Elon Musk, como exemplos de cautela que ajudam a definir o próprio senso de responsabilidade da Anthropic.
Em muitos aspectos, a Anthropic é como qualquer outra empresa do Vale do Silício. Muitas startups se comercializam como Davi combatendo os Golias desatualizados e entrincheirados das indústrias que queremperturbar. O Google, o Facebook e a Apple foram todos fundados com princípios idealistas que depois foram turvos ou abandonados completamente conforme ficavam mais ricos, maiores e mais influentes.
Mas ex-funcionários dizem que a Anthropic é incomum na intensidade com que acredita em sua missão e quão explicitamente diz aos funcionários que o poder tecnológico e comercial é um meio para alcançá-la. Um ex-funcionário afirma que em entrevistas de emprego, a Anthropic enfatiza aos candidatos que não é uma empresa típica moldada pelas forças de mercado: ela é governed por uma estrutura de benefício público que permite priorizar o "benefício de longo prazo da humanidade" acima dos lucros. Mas a empresa vê alcançar o sucesso financeiro e construir os modelos de IA mais poderosos como estando a serviço dessa meta, um pré-requisito para sua obrigação de liderar a indústria em segurança.
"Nenhum de nós queria fundar uma empresa, sentimos apenas que era nosso dever", disse Sam McCandlish, cofundador e arquiteto-chefe da Anthropic, na mesma conversa na página de carreira da empresa. "Temos que fazer isso. Esta é a maneira como vamos fazer as coisas melhorarem com a IA."
A Anthropic divulga em seu site que é uma "organização de alta confiança, baixa ego", sem muita política interna, uma caracterização que ex-funcionários dizem ser amplamente precisa. Eles afirmam que, comparados aos líderes de outros laboratórios de IA, os funcionários da Anthropic geralmente têm fé em Amodei para contar a verdade sobre o progresso tecnológico da empresa, suas interações com funcionários do governo e visões sobre geopolítica.
Mas uma diversidade de pensamento pode ser boa para a responsabilização. Shazeda Ahmed, pesquisadora pós-doutoral da UCLA que estudou as origens ideológicas do movimento de segurança da IA, diz que organizações como a Anthropic tendem a sofrer com uma falta de pluralismo. Sua pesquisa nessa área descobriu que o movimento de segurança da IA, enraizado em subculturas como o altruísmo eficaz, entre outras comunidades, sofre de homogeneidade de pensamento e tende a se inclinar para a autogestão.
"Você não está sendo desafiado nessas ideias quando se cerca de outras pessoas que acreditam nelas", diz Ahmed. "E quando suas métricas de sucesso são 'Até que ponto eu acting upon essas crenças ideológicas?', eles realmente não estão pensando bem, isso pode dar errado se não somos as pessoas certas para ter esse poder todo – nem sempre examinam seus próprios pontos cegos."
Um ex-funcionário diz que há uma cultura vibrante de debate interno na Anthropic, e críticas da equipe frequentemente provocam respostas extensas da liderança. Mas outro ex-funcionário descreve um quadro mais sombrio, no qual críticas mais francas permaneceram confinadas a grupos de chat privados e raramente evoluíram para desafios diretos às decisões de Amodei. Eles descreveram as reuniões gerais regulares da empresa com Amodei, que chamam de Visões de Dario, como semelhantes a "ir a um sermão para ouvir um padre".
Uma das maiores controvérsias internas na Anthropic aconteceu no outono de 2024, quando se tornou o primeiro laboratório de IA a fazer parceria com a Palantir para fornecer serviços de IA às agências de inteligência e defesa dos Estados Unidos. Alguns dos ex-funcionários disseram que questões sobre o acordo foram levantadas internamente, mas esses debates não resultaram em mudanças nas políticas da empresa.
Menos de dois anos depois, o Pentágono supostamente começou a usar o Claude para fazer coisas como identificar alvos de ataque na guerra entre Israel e Irã. Quando perguntado em uma entrevista recente à Bloomberg se os modelos da Anthropic foram usados em um ataque a uma escola elementary iraniana que matou mais de 120 pessoas, Amodei disse que não sabia, mas que teria sido um uso aprovado da tecnologia da empresa desde que um humano tomasse a decisão final. É um exemplo stark de como a visão da Anthropic para IA responsável nem sempre se alinha com a do público mais amplo.
As visões fortes da Anthropic sobre como o Claude deve e não deve ser usado surgiram em outros contextos também. No início deste mês, a Anthropic lançou um modelo de IA de ponta, o Claude Fable 5, com uma salvaguarda particularmente hostil integrada: se pesquisadores tentassem usá-lo para desenvolvimento de IA de fronteira, o que violaria os termos de serviço da empresa, a Anthropic efetivamente sabotaria secretamente seu trabalho. A mudança foi imediatamente criticada por pesquisadores em toda a indústria de IA, e a Anthropic recuou alguns dias depois, dizendo que tornaria a salvaguarda visível. Em um comunicado na época, a Anthropic disse que não acertou o equilíbrio e que sua intenção era frustrar adversários estrangeiros dos Estados Unidos.
O próprio Amodei reconheceu publicamente os perigos de permitir que muito poder sobre a IA se concentre nas mãos de poucos laboratórios, incluindo o seu. "É um tanto estranho dizer isso como o diretor executivo de uma empresa de IA, mas acho que o próximo nível de risco são as próprias empresas de IA", escreveu ele em um ensaio anteriormente este ano. Mas as soluções que ele sugere – que as empresas de IA "sejam cuidadosamente observadas" e talvez façam compromissos públicos de "não tomar certas ações" – fariam pouco para distribuir fundamentalmente esse poder.
Em partes mais longas do ensaio, Amodei contempla a sheer magnitude de sua própria influência e a responsabilidade que vem com isso. Mas ele amplamente evita enquadrar essas coisas em termos pessoais, em vez disso as posicionando como um problema de toda a espécie: "A humanidade está prestes a receber poder quase inimaginável, e é profundamente incerto se nossos sistemas sociais, políticos e tecnológicos possuem a maturidade para manejá-lo", escreve ele. Ele continua dizendo que é responsabilidade de "aqueles mais próximos da tecnologia simplesmente contar a verdade sobre a situação em que a humanidade se encontra, o que sempre tentei fazer."
Uma crítica comum à posição da Anthropic é que a empresa pensa que conhece a "verdade sobre a situação em que a humanidade se encontra" melhor que outros. Ela vê a IA como extraordinariamente poderosa mas, em última análise, governável, desde que as pessoas certas liderem seu desenvolvimento. Mas a verdade é que ninguém sabe exatamente como a IA mudará o mundo – algumas pessoas simplesmente têm mais a dizer sobre isso do que outras.
Fonte: Feed: All Latest
