O executivo-chefe da Google DeepMind, Demis Hassabis, defendeu nesta terça-feira a criação de um novo órgão regulador para supervisionar o lançamento de modelos de inteligência artificial de fronteira. Em publicação na rede social X, o dirigente apresentou um plano denominado "Uma Estrutura para a IA de Fronteira e o Amanhecer de Uma Nova Era", no qual sugere a formação de um "órgão de padrões" inspirado no modelo da Autoridade Reguladora da Indústria Financeira dos Estados Unidos.
Conforme a proposta, esse novo órgão seria responsável por testar os modelos de fronteira e estabelecer práticas recomendadas para seu lançamento. Hassabis sugere que, inicialmente, os laboratórios de ponta compartilhariam voluntariamente seus modelos com o órgão de padrões para revisão até 30 dias antes da disponibilização ao público. Após a comprovação de eficácia do protocolo de avaliação, a formalização poderia ocorrer rapidamente, tornando a aprovação obrigatória para que os modelos de fronteira sejam implantados no mercado americano.
O sistema proposto busca expandir as revisões improvisadas realizadas pelo governo dos Estados Unidos nos modelos Mythos, da Anthropic, e Sol, da OpenAI. Essas avaliações foram alvo de críticas significativas devido à falta de expertise técnica e à opacidade nas decisões sobre o momento adequado para liberação dos modelos.
Sob a nova proposta, essas decisões poderiam ser transferidas para uma organização nova, apoiada pelo governo americano, mas financiada pela indústria de inteligência artificial e operada de forma independente. A perspectiva de regulamentação da IA permanece controversa tanto para o setor tecnológico quanto para a administração Trump.
Recentemente, o conselheiro de inteligência artificial da Casa Branca e parceiro da empresa de venture capital a16z, Sriram Krishnan, descartou a possibilidade de um regulador de IA dentro do executivo, afirmando que "não haverá uma FDA para a inteligência artificial". Estabelecer o órgão de padrões como uma organização de autorregulação poderia ser uma forma de resolver essas preocupações.
Hassabis imagina que o regulador seja composto por representantes de código aberto e especialistas técnicos do setor, além do apoio financeiro dos laboratórios de IA necessários para mantê-los. Avaliações poderiam ser terceirizadas para o crescente número de grupos de segurança em inteligência artificial, capazes de se especializar em riscos específicos.
"A força dessa abordagem é que seria tecnicamente focada, ao mesmo tempo em que apoia a inovação e incentiva o comportamento responsável", argumentou Hassabis. "Foi projetado para acompanhar a aceleração do campo e adaptar-se aos maiores riscos conforme são identificados, e pode ser intensificado se a seriedade da situação exigir."
Fonte: TechCrunch
