O mercado de inteligência artificial voltou a ser marcado por intensos debates sobre segurança após o diretor executivo da Anthropic, Dario Amodei, publicar um artigo defendendo a necessidade de reduzir o ritmo dos avanços na área. O executivo não apenas reforçou a ideia de que é preciso "controlar a fronteira" do desenvolvimento, mas também apresentou três estratégias amplas para alcançar esse objetivo.
Entre as medidas propostas, a Anthropic já se comprometeu unilateralmente com a primeira: a implementação de avaliadores externos embedded nas empresas. Esses profissionais de organizações terceiras, como o grupo METR, teriam acesso às instalações para verificar se as empresas de inteligência artificial estão cumprindo seus compromissos de segurança e ritmo de desenvolvimento responsável.
O CEO da OpenAI, Sam Altman, manifestou apoio à iniciativa, afirmando que a empresa seguirá o mesmo caminho. "Teremos mais informações em breve", declarou Altman. O bilionário Elon Musk também reagiu, concordando publicamente com a proposta de Amodei.
O artigo de Amodei surge em meio a preocupações crescentes no setor. O pesquisador Jacob Coxon anunciou sua saída da Anthropic, argumentando que as principais empresas de inteligência artificial estão "apostando com nossas vidas". O executivo não respondeu diretamente às críticas de Coxon, mas mencionou dois fatores que o convenceram da necessidade de cautela: o incidente de segurança envolvendo OpenAI e HuggingFace, e o avanço acelerado da tecnologia, especialmente sua capacidade de criar gerações subsequentes de sistemas de inteligência artificial.
A segunda estratégia sugerida envolve a coordenação entre empresas de inteligência artificial de países democráticos para estabelecer padrões de segurança comuns e limites para o progresso não verificado. Amodei reconheceu as dificuldades políticas, citando preocupações com antitrust, e pediu que o governo dos Estados Unidos facilite essas conversas com isenções específicas.
Por fim, o executivo defendeu uma coordenação global que inclua conversas com governos autoritários, incluindo a China. O objetivo seria alcançar acordos pontuais, como a proibição do uso de inteligência artificial na produção de armas biológicas.
Críticos do setor questionaram as advertências apocalípticas, argumentando que elas servem como distração dos danos já causados pela tecnologia. O jornalista Brian Merchant afirmou que propostas semelhantes beneficiariam principalmente empresas como Anthropic e OpenAI, tratando-se de um caso clássico de captura regulatória.
Apesar das críticas, Amodei manteve sua posição de buscar um equilíbrio. "Continuo acreditando que a inteligência artificial pode melhorar enormemente a qualidade de vida humana", escreveu. "Mas esses benefícios só serão alcançados se construirmos a tecnologia da maneira correta."
Fonte: TechCrunch
