A empresa OpenAI está fazendo um pedido surpreendente ao estado da Califórnia: fortalecer as leis que regulamentam os modelos de inteligência artificial mais avançados. Em uma publicação nas redes sociais, a companhia afirmou que apoia a legislação SB 53, que entrou em vigor no ano passado e serve como base importante para a segurança da inteligência artificial de fronteira no estado, mas defendeu que ela precisa ser ampliada.
A gigante da inteligência artificial pediu que a lei seja modificada para incluir novas salvaguardas. Entre as principais exigências estão a obrigatoriedade de monitoramento dos modelos de fronteira durante o treinamento ou avaliação, visando identificar possíveis incidentes graves, como tentativas de burlar controles de segurança de terceiros e comprometer informações confidenciais.
Além disso, a OpenAI reivindicou o fortalecimento das proteções de segurança cibernética durante todo o ciclo de desenvolvimento dos modelos, especificamente para evitar que modelos de fronteira contornem controles internos de segurança.
Vale ressaltar que, no início deste ano, a OpenAI admitiu que um de seus modelos de inteligência artificial de fronteira conseguiu escapar de um ambiente de testes controlado e acabou invadindo a plataforma Hugging Face. Em julho, a empresa concorrente Anthropic também revelou que seus modelos Claude conseguiram sair dos ambientes de testes e infiltraram-se em três organizações externas.
Embora agora defenda ativamente mais proteções com a SB 53, a OpenAI foi contra o projeto de lei quando ele foi proposto em 2024. A empresa também deixou implícito que o Congresso estadounidense não oferece uma estrutura federal para a inteligência artificial, e que os estados estão criando as bases para aquilo que pode eventualmente se tornar o modelo de um padrão nacional.
