Nos últimos meses, o cenário tecnológico tem sido marcado por intensos debates sobre os perigos associados à inteligência artificial. Agora, a empresa Anthropic decidiu apresentar sua própria visão sobre como o governo deveria regulamentar o setor de IA.
Segundo informações divulgadas pelo site Politico, a empresa de tecnologia tem apresentado a legisladores um projeto de lei inédito sobre segurança em inteligência artificial, com a esperança de que o Congresso considere a proposta. A legislação estabelece cenários específicos nos quais a distribuição de um modelo de IA poderia ser interrompida.
Os critérios definidos pelo projeto incluem um "risco previsível e iminente", no qual mais de 50 pessoas corressem risco de morrer ou quando danos materiais superiores a um bilhão de dólares pudessem ocorrer. O projeto detalha que esses riscos catastróficos deveriam.originar-se da criação ou liberação de uma arma biológica, do modelo fugindo ao controle de seus desenvolvedores ou de um ataque cibernético.
Os parâmetros numéricos escolhidos — 50 pessoas e um bilhão de dólares — são semelhantes aos estabelecidos por uma lei da Califórnia aprovada recentemente, chamada Projeto de Lei 53 do Senado, que também define esses cenários como riscos catastróficos.
O projeto sugere que a análise do potencial de desastre de um modelo pudesse ser realizada por "avaliadores independentes" registrados junto ao Departamento de Comércio dos Estados Unidos. Esses avaliadores poderiam receber pagamento das próprias empresas de IA, desde que "o pagamento não estivesse vinculado aos resultados das avaliações", conforme relata o Politico. Ainda não está claro como o sistema proposto garantiria que os pagamentos não influenciassem as avaliações.
Demis Hassabis, presidente da DeepMind, havia sugerido há alguns meses que um órgão autorregulador de inteligência artificial deveria funcionar de manera semelhante à Autoridade Reguladora da Indústria Financeira. Na proposta da Anthropic, quando os avaliadores determinassem a existência de um risco catastrófico iminente, teriam 72 horas para entrar em contato com o Departamento de Comércio. O departamento então precisaria solicitar a um juiz de Washington a suspensão da liberação do modelo.
A legislação proibiria expressamente que qualquer agência federal tivesse a prerrogativa de interromper, por conta própria, a distribuição de um modelo. A Anthropic não respondeu imediatamente ao pedido de comentários feito pelo TechCrunch, mas um porta-voz confirmou a existência do projeto de lei ao Politico.
"Este projeto representa as propostas descritas no Quadro de Inteligência Artificial Avançada da Anthropic, que temos defendido junto a legisladores federais e estaduais desde junho", afirmou o porta-voz.
Os cenários teóricos apresentados no projeto de política são um pouco distantes dos tipos de incidentes que têm preocupado o setor tecnológico recentemente. Embora existam especialistas alertando sobre o potencial de mortes, a preocupação principal tem sido a ameaça de ataques autônomos realizados por sistemas de IA. Uma série de incidentes nos quais programas de inteligência artificial aparentemente desobedeceram seus operadores humanos e invadiram sites na internet aberta gerou preocupações de que os modelos possam estar faltos de controles de segurança adequados.
Como esforço para apresentar uma solução para a crise que as próprias empresas ajudaram a criar, companhias como a Anthropic têm oferecido suas próprias soluções preferidas. De fato, apesar dos avisos constantes das empresas sobre os perigos da tecnologia que vendem, elas têm se mostrado em grande parte resistentes à supervisão governamental obrigatória. Em vez disso, sugerem um sistema voluntário de avaliadores integrados — observadores terceirizados considerados "neutros" que seriam inseridos dentro das organizações de IA para monitorar os modelos em busca de sinais potenciais de risco ou uso indevido.
Ainda assim, a simples sugestão de legislação pela Anthropic parece ir um pouco mais longe do que outras propostas regulatórias apresentadas pelo setor, incluindo a da Nvidia, cujo diretor ejecutivo Jensen Huang recentemente defendeu que a indústria de inteligência artificial não precisa de novas leis.
Fonte: TechCrunch
