A Anthropic, desenvolvedora do modelo de linguagem Claude, apresentou evidências confidenciais ao Senado dos Estados Unidos detalhando o que classifica como a maior campanha já registrada para roubar capacidades de um sistema de inteligência artificial. A denúncia foi formalizada através de uma carta enviada no dia 10 de junho aos senadores Tim Scott e Elizabeth Warren, um dia antes de uma audiência do Comitê Senate dedicada ao tema "Inteligência Artificial e o Sonho Americano".
De acordo com o documento, operadores associados à Alibaba e ao laboratório de inteligência artificial Alibaba Qwen teriam executado mais de 28,8 milhões de interações com o Claude utilizando aproximadamente 25 mil contas fraudulentas. O período dos ataques compreendeu entre 22 de abril e 5 de junho deste ano, período no qual a China vem tentando igualar as capacidades dos principais modelos ocidentais após o lançamento do modelo Mythos e posterior restrição de acesso a mercados estrangeiros.
A campanha violou os termos de serviço e as restrições de acesso do Claude, mirando algumas das capacidades mais valiosas do sistema, incluindo raciocínio agentivo, engenharia de software e tarefas de longo prazo. A Anthropic pediu punições severas à Alibaba, classificando a ação como a maior operação illicit já registrada contra suas tecnologias.
Fonte: Ars Technica
