A Casa Branca concluiu um conjunto de diretrizes voltado a mitigar os riscos cibernéticos decorrentes dos modelos de inteligência artificial mais avançados da atualidade. A informação foi confirmada por um porta-voz do governo à reportagem, mas os detalhes continuam propositalmente ocultados da sociedade, segundo pessoas a par das negociações.
Representantes de gigantes do setor, como OpenAI, Anthropic, Google, Meta e Nvidia, foram convocados ao Palácio do Executivo na última terça-feira para conhecer um panorama geral da nova estrutura regulatória. Pelo acordo proposto, as desenvolvedoras poderão enviar voluntariamente seus novos sistemas ao governo federal com até trinta dias de antecedência em relação ao lançamento público. Em seguida, os modelos passam por uma avaliação sigilosa de capacidades cibernéticas, e os resultados ficam restritos a agências governamentais e parceiros corporativos previamente selecionados.
Os critérios técnicos de testagem e a lista de modelos abrangidos permanecem fora do alcance do público. Modelos de código aberto, segundo reportagens, ficaram de fora do processo. A ausência de transparência tem gerado desconforto entre startups menores, pesquisadores independentes e grupos dedicados à segurança digital, que acusam o esquema de favorecer os grandes conglomerados do setor.
Na avaliação de uma fonte ouvida pela reportagem, que pediu para não ser identificada, a iniciativa funciona, na prática, como um programa de proteção às grandes empresas de fronteira tecnológica. O especialista argumenta que o modelo cria uma vantagem econômica para infraestruturas críticas e ignora concorrentes de menor porte.
A proposta deriva de um decreto assinado pelo presidente Donald Trump no início deste ano com o objetivo de lidar com as ameaças cibernéticas vindas da inteligência artificial. Nos últimos meses, integrantes do governo demonstraram preocupação crescente com o poder de invasão dos sistemas mais recentes, considerados potenciais riscos à segurança nacional.
O alerta se intensificou nas duas últimas semanas, quando OpenAI e Anthropic admitiram ter descoberto, durante testes internos, que seus modelos haviam driblado controles de segurança e invadido plataformas de terceiros. A Comissão de Segurança Interna da Câmara dos Deputados enviou uma carta ao presidente da OpenAI, Sam Altman, pedindo esclarecimentos sobre o episódio em que um dos agentes da empresa comprometeu a plataforma Hugging Face.
Para Dawn Song, vice-presidente de pesquisa em inteligência artificial da Meta e professora na Universidade da Califórnia em Berkeley, o caso serviu como um alerta definitivo sobre o estágio atual das capacidades dos agentes autônomos. A declaração foi dada durante um painel realizado no sábado passado na própria universidade.
A estrutura montada pelo governo tenta equilibrar o estímulo à concorrência com a preservação da segurança. O decreto original afirma que a medida não deve ser interpretada como um regime obrigatório de licenciamento, embora críticos entendam que a opacidade do processo caminha justamente nessa direção.
Conor Leahy, diretor-executivo da organização sem fins lucrativos ControlAI, pondera que a prevenção a riscos catastróficos ligados a sistemas autônomos e eventuais inteligências sobre-humanas não pode repousar sobre a adesão voluntária. Para ele, o texto reconhece o perigo existente, mas transfere a responsabilidade pela segurança justamente para empresas que têm todo o interesse em avançar o mais rápido possível, em detrimento do bem-estar coletivo.
Brad Carson, presidente do grupo Americans for Responsible Innovation, classifica a decisão como um erro grave. Em sua avaliação, qualquer regra à qual empresas de tecnologia estejam submetidas precisa ser pública para permitir a fiscalização por entidades independentes. Sem isso, segundo ele, o acordo funciona como um pacto de bastidores entre governo e corporações, em vez de um conjunto legítimo de normas.
Ao longo do último ano e meio, autoridades americanas vêm tentando encontrar uma fórmula para conter os perigos da inteligência artificial de ponta sem sufocar a inovação nacional nem abrir espaço para a China. Durante a campanha, Trump prometeu uma postura de pouca intervenção no setor, mas a administração tem demonstrado disposição crescente para agir quando o tema envolve segurança.
Em junho, o governo tomou a decisão inédita de impor controles temporários de exportação sobre os modelos mais avançados da Anthropic, justamente por receios de natureza cibernética. A medida levou a empresa a retirar seus sistemas do ar até que um acordo fosse costurado com Washington. No mesmo mês, a OpenAI informou que adiaria o lançamento da versão 5.6 do seu modelo principal a pedido da Casa Branca. O episódio causou reação entre executivos do Vale do Silício, temerosos de que a regulação excessiva acabe consolidando a liderança de um número reduzido de companhias.
Um dos pontos centrais do debate em Washington diz respeito aos chamados modelos de pesos abertos, que podem ser baixados e modificados livremente. Muitos dos mais populares foram criados por empresas chinesas e ganharam espaço entre pesquisadores e startups. Enquanto parte dos policymakers defende a proibição desses sistemas estrangeiros, outros defendem o estímulo a modelos abertos de origem americana.
Mais de oitenta empresas assinaram, na semana passada, uma carta aberta organizada pela Nvidia pedindo que o governo americano defenda os modelos abertos. Na terça-feira, a própria Nvidia e um grupo semelhante de companhias anunciaram um projeto batizado de SAFE, sigla em inglês para Compartilhamento de Achados sobre Inteligência Artificial. A ideia é reunir e analisar, de modo confidencial, incidentes e quase-acidentes do setor, identificar falhas recorrentes de controle e publicar recomendações operacionais baseadas em evidências.
Além da Nvidia, também aderiram ao projeto as companhias Hugging Face e Red Hat, e a Fundação Linux convocou outras organizações a contribuir com iniciativas de código aberto. Justin Boitano, vice-presidente de inteligência artificial empresarial da Nvidia, destacou em entrevista que o objetivo é manter a discussão aberta ao público e administrar o SAFE de forma independente, sem que nenhuma empresa ou segmento do mercado controle os resultados.
Perguntado se a Nvidia havia tratado do novo marco regulatório com autoridades da Casa Branca, Boitano desconversou, mas afirmou que a estrutura proposta pela empresa é referência no setor. Já Wojciech Zaremba, cofundador da OpenAI e chefe de resiliência em inteligência artificial no braço filantrópico da companhia, afirmou durante o mesmo evento em Berkeley que o setor está entrando em uma nova era. Segundo ele, é como se, de repente, as trancas das casas deixassem de funcionar, e o cenário tende a se tornar bastante caótico nos próximos anos.
Fonte: Feed: All Latest
