Enquanto a preocupação com a segurança da inteligência artificial aumenta, diversos executivos que comandam laboratórios de ponta deixaram claro que querem — e precisam — de melhores padrões da indústria para conter uma tecnologia potencialmente perigosa. No entanto, assim como qualquer líder empresarial que busca as condições mais favoráveis para sua companhia, executivos como Dario Amodei, diretor da Anthropic, Sam Altman, diretor da OpenAI, e Demis Hassabis, fundador do Google DeepMind, esperam desempenhar um papel significativo na definição dos padrões que eles próprios defendem, segundo especialistas.
"Acho que o que aconteceu recentemente é que eles aceitaram completamente o fato de que realmente não conseguem manter essas coisas seguras", afirmou Anthony Aguirre, diretor do Instituto Futuro da Vida, organização sem fins lucrativos que busca prevenir riscos extremos em grande escala de tecnologias transformadoras. No entanto, Aguirre completou que essa nova sinceridade vem com uma condição: "Certamente eles querem controlar o processo."
O que isso pode significar para as principais empresas de inteligência artificial é autorregulação, transparência e responsabilidade nos seus próprios termos, além de garantias relacionadas às leis de concorrência. Aguirre explicou que, apesar de reconhecerem preocupações emergentes sobre segurança, as grandes empresas de inteligência artificial ainda não pretendem abandonar seu objetivo de alcançar a inteligência artificial geral, uma forma de IA que igualaria ou superaria a inteligência humana, podendo levar à substituição de muitos empregos humanos por sistemas automatizados e ao surgimento de sistemas de decisão baseados em inteligência artificial que substituiriam lideranças humanas.
"Eles querem basicamente um futuro controlado por máquinas", disse Aguirre. "Isso não é algo que a maioria das pessoas deseja."
Os apelos para desacelerar a fronteira tecnológica, como Amodei descreveu recentemente em um ensaio pessoal sobre riscos de segurança da inteligência artificial, não envolvem pausar a busca pela inteligência artificial geral. Aguirre acredita que isso é um erro. Em vez disso, ele defende que as empresas de inteligência artificial deveriam "mudar totalmente de direção", embora reconheça que elas provavelmente se recusarão a fazê-lo.
Pete Furlong, gerente de políticas e pesquisa do Centro de Tecnologia Humanitária, afirmou que a indústria tem pressionado pela autorregulação há algum tempo. "Vimos eles falarem sobre a necessidade de regulação em certos aspectos, mas não acho que suas ações sempre confirmem isso necessariamente", disse ele. Furlong completou que as maiores empresas querem proteger sua posição de liderança e podem buscar formas de operar em um "sistema de portas fechadas", sem muita participação pública sobre riscos e soluções.
Em uma publicação de julho em uma plataforma de boletins digitais sobre segurança, Hassabis, do Google, sugeriu que os Estados Unidos criem um órgão de normalização inspirado em parcerias público-privadas existentes supervisionadas pelo governo federal ou organizações autorreguladoras. Usando a Autoridade Reguladora da Indústria Financeira como exemplo, Hassabis disse que esse órgão lideraria o desenvolvimento de protocolos de avaliação modelo e colaboraria com agências federais especificamente em testes de segurança nacional.
No seu ensaio, Amodei escreveu que a Anthropic apoiou "regulação sensata e direcionada", especialmente em transparência e auditoria por terceiros. Reconhecendo o processo demorado de aprovação de leis, Amodei também apoiou um esforço voluntário das empresas de inteligência artificial para estabelecer padrões posteriormente verificados por "avaliadores terceiros embedded". Ele se comprometeu unilateralmente a usar esses avaliadores no trabalho de segurança da empresa.
No entanto, especialistas alertaram para não aceitar essa medida de segurança pelo valor de face. "Embora o apoio dos desenvolvedores de inteligência artificial para avaliação independente seja um passo real à frente, serão necessários mecanismos adicionais para responsabilização eficaz", afirmou Matt O'Shaughnessy, tecnólogo sênior do Laboratório de Governança de Inteligência Artificial do Centro para Democracia e Tecnologia. Ele completou que seria "prejudicial para a responsabilização" se a supervisão da inteligência artificial se resumisse apenas a avaliações independentes.
Furlong elogiou a Anthropic por recentemente publicar um relatório completo sobre riscos habilitados por inteligência artificial, como armas biológicas e vigilância em massa. Ele também disse que foi "admirável" que a OpenAI tenha tenido pesquisadores independentes para investigar um incidente na plataforma Hugging Face, durante o qual um agente da OpenAI atacou os sistemas de outra empresa. No entanto, a OpenAI também impôs "restrições significativas" a essa investigação, incluindo limites de prazo, segundo Furlong.
Embora esses sejam passos razoáveis em direção à transparência, Furlong acredita que é justo esperar mais. "Não pode ficar inteiramente a critério dessas empresas definir os termos da sua própria transparência", disse ele. Embora a OpenAI e a Anthropic tenham apoiado a transparência por escrito, Aguirre afirmou que as ações das empresas de inteligência artificial nem sempre correspondem à sua postura pública. "Acho que há uma grande lacuna entre o que eles dizem e o que seus grupos de pressão fazem nos bastidores", completou.
As principais empresas de inteligência artificial também lutaram contra tentativas de responsabilizá-las por cenários catastróficos, como quando um usuário consulta seu assistente virtual sobre cometer um ataque em massa, recebe orientação médica que coloca sua vida em risco ou compartilha sentimentos suicidas e recebe instruções sobre como tirar a própria vida. "Há muitas preocupações potenciais sobre empresas tentando contornar qualquer tipo de responsabilização significativa", afirmou Furlong.
Enquanto as principais empresas de inteligência artificial se reúnem para discutir problemas e soluções de segurança, elas também expressam preocupação de que isso poderia expô-las a processos por violação das leis de concorrência. Amodei disse no seu ensaio recente que o governo deveria mediar ou viabilizar discussões sobre normalização. Ele completou que o governo precisa emitir uma "isenção restrita" permitindo conversas específicas sobre segurança. Aguirre afirmou que concorda com as empresas nesse caso. Desde que a isenção seja cuidadosamente redigida para se aplicar a discussões de segurança e não a atividades coordenadas que excluam empresas menores de inteligência artificial, Aguirre acredita que é razoável buscar clareza sobre as leis de concorrência.
De fato, uma ação judicial coletiva apresentada esta semana por Advogados pela Justiça alega que uma desaceleração coordenada pela Anthropic, OpenAI, Google e SpaceXAI violou as leis de concorrência.
Aguirre acredita que, embora muitos líderes de inteligência artificial estejam genuinamente preocupados com a segurança, suas propostas não oferecem uma visão radicalmente diferente do que está por vir. "Essas empresas estão construindo algo que sabem que não conseguem manter seguro ou sob controle, e estão fazendo isso sem nenhuma das supervisões ou regulações normais que aplicamos a todas as outras indústrias potencialmente inseguras", disse Aguirre. "Eles estão pedindo para deixarmos que façam a mesma coisa, mas apenas ajudá-los um pouco a fazê-lo de forma um pouco mais segura."
Fonte: Mashable
