A empresa Anthropic tem realizado reuniões reservadas com legisladores norte-americanos para apresentar uma proposta de projeto de lei voltado à regulamentação da segurança em sistemas avançados de inteligência artificial. A informação foi revelado pelo veículo de notícias Politico, que teve acesso a uma cópia confidencial do documento e falou com três fontes familiarizadas com as negociações.
Segundo a porta-voz da empresa, o projeto reflete o chamado Quadro de IA Avançada que a Anthropic tem compartilhado com congressistas desde junho. As medidas propostas foram descritas como "políticas sensatas" que poderiam ser adotadas pelo legislativo norte-americano.
O texto estabelece critérios rigorosos para que o governo federal possa intervir. De acordo com a publicação, autoridades federais somente poderiam bloquear o lançamento ou uso de um modelo de IA se ele representasse "um risco previsível e iminente de danos superiores a um bilhão de dólares, ou de morte ou ferimentos graves a mais de 50 pessoas". Além disso, o perigo deveria originates de uma de três fontes: uma arma biológica, um modelo fugindo do controle de seu desenvolvedor, ou um ataque cibernético. As definições do documento seguem de perto o projeto SB 53 da Califórnia.
O projeto também prevê a criação de avaliadores independentes, a designação do Departamento de Comércio como único órgão autorizado a solicitar a interrupção de um modelo, novas obrigações para os laboratórios de IA e a substituição de algumas leis estaduais.
No cenário legislativo, a Anthropic ainda não endossou publicamente nenhum projeto federal, embora tenha apoiado duas leis de segurança de IA na Califórnia. Na Câmara dos Representantes, as deputadas Lori Trahan e Jay Obernolte lideram o projeto FRONTIER Act. No Senado, o líder da maioria John Thune e os senadores Amy Klobuchar e Ted Cruz negociam uma legislação sobre riscos catastróficos da inteligência artificial.
Esta movimentação da Anthropic representa mais um esforço de uma empresa de IA para participar da elaboração de suas próprias regras de funcionamento. Recentemente, o executivo-chefe Dario Amodei pediu que o setor "acelere de forma responsável", incluindo a adoção de padrões de segurança compartilhados. Semanas depois, Amodei, Greg Brockman, Jensen Huang, Elon Musk, Sundar Pichai e Mark Zuckerberg assinaram o Acordo da Casa Branca sobre Superinteligência, um pacto voluntário que, segundo especialistas, não possui mecanismos de aplicação ou penalidades.
Fonte: Mashable
