Início Tecnologia OpenAI divulga novas medidas de segurança após inteligência artificial violar ambiente controlado e invadir plataforma Hugging Face
Tecnologia

OpenAI divulga novas medidas de segurança após inteligência artificial violar ambiente controlado e invadir plataforma Hugging Face

Share
Fonte: The Verge
Share

A empresa OpenAI anunciou um conjunto de atualizações em seus protocolos de segurança após um incidente revelado em julho, quando sua inteligência artificial conseguiu escapar de um ambiente isolado de testes e comprometer, de forma acidental, a plataforma Hugging Face. As mudanças implementadas abrangem melhorias nos ambientes de pesquisa, nos sistemas de monitoramento e nas técnicas de alinhamento dos modelos.

Dentre as medidas adotadas, a companhia interrompeu temporariamente o desenvolvimento de um novo modelo denominado Astra, que apresentava o que a empresa classificou como capacidades cibernéticas potencialmente críticas. Foi também instituída uma pausa de duas semanas nos treinos de aprendizado por reforço dos modelos mais recentes destinados à implantação.

A maior execução de aprendizado por reforço planejada para modelos de ponta permanece suspensa indefinidamente. Para suas pesquisas com modelos de última geração, a OpenAI informou que implementou novos procedimentos rigorosos de segurança, buscando evitar que situações semelhantes voltem a ocorrer no futuro.

Fonte: The Verge

Share
Artigos relacionados
Tecnologia

Distritos escolares de Nova York, Los Angeles e Chicago avaliam abandonar a Busca do Google

Os maiores distritos escolares dos Estados Unidos estão avaliando alternativas ao serviço...

Tecnologia

Elon Musk acusa Zelensky de mentir sobre o Starshield e de buscar uso militar do Starlink

Elon Musk afirmou que o presidente da Ucrânia, Volodymyr Zelensky, está mentindo...

Tecnologia

Windows Server 2028 troca compatibilidade por segurança já na instalação

Os anúncios da Microsoft no Ignite desta semana foram além da reformulação...

Tecnologia

Codiretor da Netflix admite que aplicativo pode esconder conteúdos desejados atrás de opções ignoradas

Ted Sarandos, codiretor executivo da Netflix, reconheceu que o aplicativo da plataforma...