Joshua Achiam, chief futurist da OpenAI, anunciou nesta terça-feira aos colegas que deixará a empresa ainda neste mês, após quase nove anos de atuação dedicados à pesquisa em segurança de inteligência artificial e à defesa da missão institucional da organização. A informação foi revelada ao veículo Wired.
Achiam, que anteriormente liderou uma equipe responsável por assegurar o cumprimento da missão sem fins lucrativos da organização, comunicou aos funcionários que sua decisão de sair não foi motivada por nenhum motivo específico em particular, mas algo que vinha refletindo há algum tempo. Em uma nota direcionada à equipe, obtida pela reportagem, ele declarou: "O mundo já está no segredo agora e parece possível trabalhar na missão fora das paredes de um laboratório de fronteira. Acredito que podemos chegar a um mundo de paz, prosperidade sem precedentes e possibilidades inimagináveis, tanto sociais quanto científicas. O que quer que eu faça a seguir, continuarei trabalhando com vocês para tornar essa visão realidade."
A OpenAI ainda não anunciou se alguém ocupará o cargo de Achiam, que ficava na interseção entre as equipes de segurança de IA e políticas da empresa, envolvendo o estudo dos potenciais danos e benefícios causados pelo avanço da inteligência artificial. O executivo trabalhou com líderes seniores da companhia, incluindo Chris Lehane, diretor de assuntos globais, para defender regulamentações governamentais alinhadas à missão da OpenAI: garantir que a AGI beneficie toda a humanidade.
Desde o lançamento do ChatGPT em 2022, a OpenAI reorganizou diversas vezes suas equipes de segurança, produto e pesquisa, crescendo rapidamente de um pequeno laboratório de pesquisa para uma gigantesca empresa de tecnologia. Em 2024, a empresa anunciou a formação de uma "equipe de alinhamento de missão" liderada por Achiam, com a tarefa de defender a missão da organização. O grupo foi dissolvido em fevereiro, e a empresa anunciou que Achiam assumiria um novo cargo como chief futurist.
No último ano, a OpenAI trabalhou para diminuir a lacuna entre suas equipes de pesquisa de IA e políticas, como parte de um esforço para desenvolver regras e padrões que antecipem para onde sua tecnologia está se direcionando. Com o início de uma colaboração mais próxima entre os dois departamentos, vários pesquisadores da OpenAI, incluindo Boaz Barak, Noam Brown e Adrien Ecoffet, passaram a se envolver mais no trabalho de políticas.
Dean Ball, ex-assessor de IA da Casa Branca, começou a trabalhar na OpenAI nesta semana como diretor de futuros estratégicos da empresa, e terá uma breve sobreposição com Achiam. Ball também deverá trabalhar com pesquisadores e líderes de políticas em seu cargo.
Achiam é o mais recente líder focado em segurança a deixar a OpenAI, ingressando em uma lista crescente de saídas enquanto a empresa se prepara para abrir capital. Jan Leike, que co-liderava a equipe de Superalignment da OpenAI pesquisando como manter modelos avançados de IA sob controle humano, saiu para se juntar à Anthropic em 2024.
Ainda naquele ano, o diretor de pesquisa de políticas Miles Brundage e Steven Adler, que liderava pesquisa sobre capacidades perigosas de modelos de IA, ambos deixaram a OpenAI para fundar organizações sem fins lucrativos que defendem que laboratórios de IA adiram a padrões rigorosos de segurança e proteção. Andrea Vallone, que liderava pesquisa sobre como o ChatGPT deve responder a usuários enfrentando angústia mental ou emocional, saiu para se juntar à equipe de Leike na Anthropic no final de 2025.
Após ingressar na OpenAI como estagiário em 2017, Achiam se tornou um cientista de pesquisa focado em segurança de IA. Ele era conhecido internamente como um defensor fervoroso da missão focada em segurança da OpenAI, mas também era controverso por suas críticas ocasionais à comunidade mais ampla de segurança de IA.
Mais cedo neste ano, ele testemunhou em tribunal federal que interrompeu o discurso de despedida de Elon Musk quando ele deixou a OpenAI em 2018, comentando que o plano do bilionário de desenvolver AGI na Tesla poderia comprometer a segurança. Musk supostamente respondeu chamando Achiam de "idiota", um momento que Dario Amodei, agora CEO da Anthropic, e David Luan, que se tornou diretor do laboratório de AGI da Amazon, commemoraram presenteando Achiam com uma estátua da parte traseira de um burro de ouro, com as palavras inscritas: "Nunca pare de ser um idiota pela segurança."
Fonte: Feed: All Latest
