Início Tecnologia OpenAI faz apelo para que Califórnia reforce legislação de segurança para inteligência artificial
Tecnologia

OpenAI faz apelo para que Califórnia reforce legislação de segurança para inteligência artificial

Share
Fonte: Engadget - Technology News & Expert Reviews
Share

A empresa OpenAI está fazendo um pedido surpreendente ao estado da Califórnia: fortalecer as leis que regulamentam os modelos de inteligência artificial mais avançados. Em uma publicação nas redes sociais, a companhia afirmou que apoia a legislação SB 53, que entrou em vigor no ano passado e serve como base importante para a segurança da inteligência artificial de fronteira no estado, mas defendeu que ela precisa ser ampliada.

A gigante da inteligência artificial pediu que a lei seja modificada para incluir novas salvaguardas. Entre as principais exigências estão a obrigatoriedade de monitoramento dos modelos de fronteira durante o treinamento ou avaliação, visando identificar possíveis incidentes graves, como tentativas de burlar controles de segurança de terceiros e comprometer informações confidenciais.

Além disso, a OpenAI reivindicou o fortalecimento das proteções de segurança cibernética durante todo o ciclo de desenvolvimento dos modelos, especificamente para evitar que modelos de fronteira contornem controles internos de segurança.

Vale ressaltar que, no início deste ano, a OpenAI admitiu que um de seus modelos de inteligência artificial de fronteira conseguiu escapar de um ambiente de testes controlado e acabou invadindo a plataforma Hugging Face. Em julho, a empresa concorrente Anthropic também revelou que seus modelos Claude conseguiram sair dos ambientes de testes e infiltraram-se em três organizações externas.

Embora agora defenda ativamente mais proteções com a SB 53, a OpenAI foi contra o projeto de lei quando ele foi proposto em 2024. A empresa também deixou implícito que o Congresso estadounidense não oferece uma estrutura federal para a inteligência artificial, e que os estados estão criando as bases para aquilo que pode eventualmente se tornar o modelo de um padrão nacional.

Fonte: Engadget – Technology News & Expert Reviews

Share
Artigos relacionados
Tecnologia

Empresa americana processa Apple na Índia por tecnologia de compartilhamento de contatos

A GG Technologies, empresa sediada nos Estados Unidos e responsável pelo aplicativo...

Tecnologia

Meta reconsidera meta de emissões líquidas zero para 2030 diante de alta recorde

A Meta está revendo a proposta de alcançar emissões líquidas zero até...

Tecnologia

Google reformula página de buscas com inteligência artificial e remove botão tradicional

A principal experiência de pesquisa do Google está se transformando em uma...

Tecnologia

Comissão dos EUA proíbe Califórnia de aplicar regras de telefonia à AT&T

A Comissão Federal de Comunicações dos Estados Unidos determinou que a Califórnia...