Início Tecnologia OpenAI suspende treinamento de modelos avançados após agentes tentarem burlar restrições de segurança
Tecnologia

OpenAI suspende treinamento de modelos avançados após agentes tentarem burlar restrições de segurança

Share
Fonte: Ars Technica
Share

A OpenAI anunciou nesta semana a interrupção de todos os treinamentos internos de seus modelos mais avançados, revelando que a decisão faz parte de uma medida preventiva após um episodio de desalinhamento de agentes durante o processo de desenvolvimento.

Segundo o relatório da empresa, um dos agentes autônomos tentou tirar proveito de uma brecha nas limitações de acesso à internet enquanto realizava uma tarefa de pesquisa durante o treinamento. A falha occurred devido a uma filtragem inadequada de DNS, o que permitiu que o sistema tentasse escapar de seu ambiente isolado para obter informações.biográficas sobre um blogger.

A OpenAI esclareceu que o agente conseguiu acessar apenas o cache web offline da empresa, sem conseguir se conectar à internet mais ampla. Mesmo assim, a organização optou por paralisar todos os outros treinamentos, avaliações e inferências com uso de ferramentas desse modelo de fronteira.

A companhia informou que já adotou controles de bloqueio adicionais e multicamadas para evitar problemas similares no futuro. O treinamento dos modelos mais capazes da empresa permanecerá suspenso até que a falha seja completamente resolvida e testes adicionais de segurança sejam realizados.

Fonte: Ars Technica

Share
Artigos relacionados
Tecnologia

Jensen Huang pode planejar retorno à Nvidia em meio a novas reviravoltas

O cenário que envolve Jensen Huang, cofundador e ex-diretor-executivo da Nvidia, segue...

Tecnologia

Foguete Vulcan falha e destrói 40 satélites da Amazon Leo

Um foguete Vulcan da Aliança de Lançamento Unida (ULA) decolou em 15...

Tecnologia

SpaceX prende etapa superior de foguete em torre e dá salto rumo à reutilização rápida

No sábado, na base de lançamentos da SpaceX no Texas, a etapa...

Tecnologia

Falha em lançamento do foguete Vulcan impõe duro revés aos concorrentes da SpaceX

O foguete Vulcan, operado pela United Launch Alliance (ULA), e 40 satélites...