Uma equipe do Departamento de Eficiência Governamental que atuava no Departamento de Habitação e Desenvolvimento Urbano dos Estados Unidos utilizou inteligência artificial para fundamentar decisões de política pública. Atualmente, a agência parece estar recusando pedidos de informação realizados via Lei de Liberdade de Informação regarding ao desenvolvimento e uso de ferramentas de inteligência artificial, conforme documentos obtidos pela organização sem fins lucrativos Democracia Forward por meio de um pedido de acesso à informação.
No ano passado, reportagens revelaram que Christopher Sweet, na época um estudante do terceiro ano da Universidade de Chicago, havia ingressado na equipe DOGE no departamento de habitação, juntamente com Scott Langmack, que veio para o DOGE proveniente de uma startup de tecnologia imobiliária chamada Kukun. O foco principal de Sweet, segundo funcionários do HUD que falaram à imprensa na época, era utilizar inteligência artificial para identificar regras da agência que poderiam ser rescindidas ou contratos que poderiam ser cancelados, como parte de um esforço semelhante em todo o governo.
Naquela época, funcionários do HUD relataram que empregados estavam sendo envolvidos para fornecer feedback sobre regulamentações que haviam sido sinalizadas pela inteligência artificial para rescisão. Outros funcionários, no entanto, descreveram o esforço como redundante. Sweet formou-se pela Universidade de Chicago em junho com formação em economia, enquanto Langmack atualmente ocupa o cargo de diretor executivo de desregulamentação de IA no Escritório de Gestão e Orçamento, vinculado à Executiva Presidencial, de acordo com seu perfil profissional.
Mais de cem documentos solicitados pela Democracia Forward sobre o uso de inteligência artificial pelo HUD para tomada de decisões foram retidos. Entre as razões citadas pelo HUD para não liberar os documentos estavam um privilégio de inteligência artificial inexistente e um privilégio para comunicações presidenciais que existe, mas geralmente é aplicado apenas ao presidente e seus conselheiros imediatos. Vários dos documentos retidos, cujos nomes são conhecidos pelo pedido de acesso à informação, mas cujo conteúdo permanece desconhecido, parecem indicar que a equipe DOGE no HUD estava usando ferramentas de inteligência artificial para ajudar na tomada de decisões políticas.
Um documento intitulado "GPT defined Econ Analysis approach 11 10 25.docx", que pertencia a Langmack, foi isento da Lei de Liberdade de Informação porque estava rotulado como "entrada deliberativa de IA". Outro documento, chamado "RegulatoryAnalysisPrompt.pdf", também de Langmack, parece indicar que a equipe DOGE estava investigando a criação de comandos para realizar análise regulatória. Vários outros documentos retidos por fazerem parte do processo deliberativo foram rotulados como alguma forma de "análise regulatória" para diferentes programas do HUD, embora não esteja claro se inteligência artificial foi usada em sua criação.
Uma advogada da Fundação Fronteira Eletrônica afirma que a falta de transparência sobre como ferramentas de inteligência artificial podem ser usadas na criação ou alteração de políticas é particularmente preocupante, pois essas ferramentas são conhecidas por inventar informações, apresentar vieses ou simplesmente cometer erros. "Não é necessariamente o caso de que sempre saberíamos como as ferramentas estão sendo usadas. Ter acesso aos comandos é realmente a melhor forma de conseguir identificar para que os funcionários estão usando essas ferramentas e quão prejudiciais esses usos podem ser."
Atualmente, não existem leis nos Estados Unidos que exijam que o governo divulgue se inteligência artificial foi usada na criação de regras, políticas ou regulamentações. Um professor da Escola Kennedy de Harvard comenta que, se a inteligência artificial está sendo usada para avaliar políticas como uma das ferramentas do kit de ferramentas, acredita que, nesta fase do desenvolvimento e uso da inteligência artificial, é um bom protocolo indicar isso, em parte para tentar construir confiança no uso da inteligência artificial no governo.
No entanto, o professor observa que consegue visualizar uma forma em que a inteligência artificial poderia ser usada em um tipo de processo deliberativo que pode não necessariamente justificar divulgação. "Se estou revisando políticas para decidir onde quero podar ou redesenhar ou apelar ou melhorar políticas, e vou pesquisar como isso foi feito por outros, não divulgo isso. Faz parte do meu processo incorporado." O professor também observa que frequentemente pode ser necessário vários comandos para trabalhar através de um problema ou questão, e então, de uma perspectiva técnica, acredita que muito disso é deliberativo.
Uma vez que muitos dos documentos foram retidos do pedido da Democracia Forward, também é difícil verificar exatamente como a inteligência artificial estava sendo empregada. Existem nove razões diferentes pelas quais o governo pode negar um pedido de Lei de Liberdade de Informação, incluindo, por exemplo, se um documento revelaria informações pessoais ou segredos comerciais. Quase todos os documentos do HUD são rotulados como retidos devido à Isenção 5, que permite às agências reter informações sob o que é conhecido como "privilégio de processo deliberativo". Isso protege material onde funcionários federais podem estar trabalhando ou fornecendo feedback sobre políticas e regulamentações novas ou em mudança.
Um representante do Centro de Informação de Privacidade Eletrônica explica que, se há um processo deliberativo occurring entre seres humanos que trabalham para a agência, onde o material é tanto pré-decisório e leva a algum tipo de decisão, essa pode ser uma afirmação justificável de privilégio de processo deliberativo. Isso é destinado a encorajar a "franqueza" para que funcionários governamentais possam debater políticas e fornecer seu feedback honesto sem medo. Em muitos casos, o motivo para a isenção é listado como "deliberação do processo" ou às vezes "privilégio advogado-cliente".
Mas em alguns casos, o escritório de Lei de Liberdade de Informação do HUD negou o pedido de certos documentos, citando "rascunho de comando de IA" e "entrada deliberativa de IA" como motivos. Documentos rotulados como "Prompt.pdf" e "PROMPT+AB2(alr)+ab.dox" foram isentos porque estavam rotulados como "deliberação de comando de IA". Isenções similares ocorreram para vários outros documentos.
Outro documento rotulado "DFR Template_Workflow Prompt Directory (3).pdf" foi isento porque envolvia "deliberação de alterações regulatórias" e "privilégio de comunicações presidenciais". Esse motivo, segundo o especialista, levanta "questões sobre de onde os comandos podem ter vindo".
"É preocupante que o governo esteja protegendo registros sobre como usa inteligência artificial na formulação de políticas. Se o governo vai usar inteligência artificial na formulação de políticas que nos afetam a todos, o público tem o direito de compreender seu impacto", declarou um conselheiro de supervisão sênior da Democracia Forward. "Reter entrada de inteligência artificial no processo político como deliberativo e privilegiado levanta sérias questões. Os privilégios existentes são destinados a garantir que funcionários públicos compartilhem suas visões francas, não para proteger o impacto da inteligência artificial em nosso governo."
Fonte: Feed: All Latest
