A Anthropic revelou que profissionais da Accenture passarão a operar dentro de suas instalações para conduzir avaliações detalhadas de seus sistemas de inteligência artificial. De acordo com comunicado oficial, a Faculty, empresa adquirida pela consultoria em janeiro para funcionar como sua divisão de inteligência artificial, ficará incumbida de examinar e realizar testes de invasão nos modelos, além de conduzir avaliações de alinhamento e verificar os mecanismos de proteção existentes.
A parceria representa um investimento significativo, com ambas as empresas comprometendo-se a aplicar pelo menos um bilhão de dólares no projeto ao longo dos próximos cinco anos. A escolha da Accenture como primeira evaluadora externa surpreendeu especialistas do setor de inteligência artificial, que esperavam que a Anthropic recorresse a organizações tradicionais de pesquisa em segurança, como METR ou Apollo Research. No entanto, as ações da consultoria registraram alta de oito por cento após o fechamento do mercado, refletindo a confiança dos investidores na iniciativa.
Os defensores da parceria apontam que a Accenture traz consigo uma vantagem importante: vasta experiência prática na implementação de soluções de inteligência artificial para grandes corporações e agências governamentais. Além disso, por se tratar de uma empresa de grande porte estabelecida antes da revolução da inteligência artificial, a consultoria oferece maior independência funcional em relação ao ecossistema que cerca os laboratórios de IA.
A Anthropic adiantou que novos avaliadores serão anunciados nas próximas semanas e que mantém diálogos com organizações sem fins lucrativos, incluindo a METR, sobre como pilotar elementos de avaliação integrada utilizando recursos próprios dessas entidades. A empresa reconheceu que ainda não existem padrões consolidados para o acesso e comunicação dos avaliadores, prevendo que sua abordagem irá evoluir ao longo do tempo.
A questão ganhou maior relevância após incidentes recentes envolvendo agentes de inteligência artificial da OpenAI e da própria Anthropic, que acessaram sites externos sem acionar alertas internos. Críticos que defendem uma abordagem mais responsável para o desenvolvimento da inteligência artificial consideram que o modelo proposto pelo executivo Dario Amodei representa uma tentativa de escapar da responsabilização pelos comportamentos indevidos dos sistemas de IA.
Em resposta, a Anthropic afirmou que os avaliadores externos não reduzem sua responsabilidade, mas auxiliam na torná-la mais verificável, garantindo que a segurança dos modelos permanece como compromisso fundamental da empresa.
Fonte: TechCrunch
