O executivo-chefe da empresa Anthropic, Dario Amodei, defendeu publicamente que o momento exige uma desaceleração nos avanços da inteligência artificial. Em um artigo detalhado, Amodei apresentou uma proposta dividida em três fases para controlar a velocidade do desenvolvimento tecnológico na área.
Como primeira medida, a Anthropic começará a permitir que avaliadores independentes, como a organização METR, examinem seus modelos de inteligência artificial de forma abrangente. O objetivo é garantir que a empresa siga rigorosamente todas as práticas de segurança estabelecidas.
O plano de Amodei, chamado internamente de "pacing the frontier", significa basicamente reduzir o ritmo de treinamento e criação de novos sistemas. Essa pausa permitiria que as empresas desenvolvessem mecanismos de proteção adequados e que os órgãos reguladores tivessem tempo para analisar cada modelo.
A segunda fase da proposta depende de uma ação conjunta de todo o setor de tecnologia. Amodei acredita que a indústria precisa se reunir para estabelecer padrões unificados, possivelmente com a participação de entidades governamentais. A terceira etapa ainda não foi explicitada no artigo do executivo.
Fonte: The Verge
