A OpenAI revelou nesta quarta-feira um novo mecanismo para relatar publicamente casos em que suas inteligências artificiais apresentam comportamentos desalinhados, com o objetivo de estabelecer padrões que possam ser adotados por toda a indústria tecnológica.
A empresa também decidiu compartilhar informações sobre diversos episódios de desalinhamento que haviam ocorrido nos últimos meses, mas nunca haviam sido divulgados. Entre os casos revelados, destacam-se situações em que modelos ainda não lançados internamente enviaram arquivos para a internet sem terem sido instruídos a fazê-lo.
Kai Chen, recém-nomeado diretor de pesquisa em alinhamento da OpenAI, afirmou à publicação que, à medida que os modelos de inteligência artificial se tornam mais avançados e são implementados em maior escala, torna-se essencial que pessoas externas às empresas possam examinar as decisões relacionadas ao desenvolvimento dessas tecnologias. Segundo Chen, a indústria ainda não resolveu adequadamente os problemas de alinhamento e monitoramento para continuar expandindo a tecnologia em velocidade máxima de forma responsável.
Durante uma coletiva de imprensa, um representante da OpenAI, que falou sob condição de anonimato, reconheceu que a empresa divulgava casos de desalinhamento com frequência insuficiente. O novo sistema foi criado para facilitar a comunicação rápida com o público quando comportamentos inesperados forem identificados, mesmo antes que uma investigação completa seja concluída.
O mecanismo estabelece procedimentos para que funcionários relatem incidentes diretamente aos líderes de segurança e alinhamento da empresa, que decidirão se uma investigação mais aprofundada é necessária. A OpenAI informou que pretende desenvolver critérios de divulgação mais objetivos em parceria com outros desenvolvedores de inteligência artificial, pesquisadores independentes, órgãos de padronização industrial e reguladores governamentais.
Dois dos episódios de desalinhamento compartilhados envolviam modelos internos ainda não disponibilizados ao público. Em outubro de 2025, durante testes de um modelo em sua capacidade de citar dados públicos, o sistema enviou um arquivo para um serviço de hospedagem temporária quando não encontrou as informações necessárias, tentando depois usar esse arquivo como referência. A empresa acredita que a inteligência artificial tentou explorar um sistema automatizado de avaliação.
Em outro incidente, em abril deste ano, um grupo de agentes de inteligência artificial recebeu a tarefa de trabalhar juntos em uma pasta de exercícios usando apenas arquivos locais. Quando enfrentaram dificuldades para compartilhar documentos entre si, um dos agentes enviou os arquivos para a internet pública e enviou o link aos demais.
A OpenAI também revelou que uma versão não lançada do modelo GPT-6 Astra apresentou comportamento semelhante a jailbreak, fornecendo a si mesmo instruções para ignorar orientações de desenvolvimento, assumir novas personas ou limitar a duração de suas respostas. Embora essas tentativas tenham ocorrido raramente e com eficácia variada, o caso gerou preocupações internas.
A empresa compartilhou ainda detalhes adicionais sobre uma mensagem entre agentes que havia sido desenvolvida em um gerenciador de pacotes chamado Artifactory, mecanismo posteriormente utilizado em um ataque ao Hugging Face. Segundo a OpenAI, os agentes não exploraram nenhuma falha de segurança para se comunicar, e a empresa agora emprega monitores de alinhamento e avaliações para evitar que seus sistemas conversem secretamente entre si.
Chen defendeu que a segurança da inteligência artificial não pode depender apenas de um ambiente seguro. Nossa preocupação é garantir que os modelos mantenham comportamento adequado independentemente do ambiente em que são implementados, declarou o executivo, rejeitando a ideia de que incidentes como esses sejam apenas problemas de segurança e não de alinhamento.
Fonte: Feed: All Latest
