A empresa OpenAI procurou membros do Congresso nas últimas semanas para pedir orientações claras sobre a legalidade de uma desaceleração coordenada no desenvolvimento de sistemas de inteligência artificial de ponta, informaram fontes próximas à companhia.
A coordenação substancial em questões de segurança entre laboratórios de inteligência artificial pode enfrentar obstáculos relacionados às leis de defesa da concorrência, o que representa um entrave significativo para conscientizar grandes empresas de tecnologia sobre a necessidade de frear o avanço da tecnologia.
No último fim de semana, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um artigo defendendo que o melhor caminho para o setor de pesquisa em inteligência artificial inclui "coordenação para retardar desenvolvimentos futuros", algo que ele considera essencial para garantir que sistemas de inteligência artificial autorregenerativos sejam seguros. No curto prazo, ele prevê que "desacelerações voluntárias se tornarão comuns até que padrões de segurança compartilhados sejam estabelecidos".
No entanto, alguns especialistas em direito argumentam que essa iniciativa pode conflitar com as leis de defesa da concorrência dos Estados Unidos. Nicholas Felstead, diretor-adjunto da Comissão Australiana de Concorrência e Defesa do Consumidor e antigo bolsista de políticas de inteligência artificial no Centro de Direito e Riscos da Inteligência Artificial, escreveu em um artigo de março que uma pausa coordenada no desenvolvimento de inteligência artificial pode equivaler a empresas restringindo sua produção, potencialmente violando a Lei Sherman de Defesa da Concorrência.
Existem sinais iniciais de que o Congresso está atento à questão. Em julho, um grupo bipartidário de legisladores apresentou um projeto de lei denominado "Lei de Colaboração em Ameaças Adversárias e Riscos de Segurança", que autorizaria explicitamente laboratórios de inteligência artificial a coordenarem trabalhos de segurança sem o risco de infringir estatutos de defesa da concorrência. O texto foi remetido à Comissão de Assuntos Jurídicos da Câmara, mas ainda não foi analisado.
Caleb Knapp, diretor de assuntos governamentais da organização sem fins lucrativos Rede de Políticas de Inteligência Artificial, que apoiou o projeto, afirma que a medida criaria canais legais para que laboratórios de inteligência artificial trabalhassem juntos no enfrentamento de incidentes de segurança. Knapp observa que o Congresso demonstra "crescente disposição para agir" na questão de segurança da inteligência artificial, mas reconhece que a aprovação de qualquer legislação pode ter que esperar até depois das próximas eleições.
Enquanto alguns executivos de inteligência artificial podem ter preocupações genuínas com as leis antitruste, outra corrente de líderes do setor argumenta que essas preocupações são apenas uma desculpa conveniente para evitar discutir as verdadeiras razões pelas quais desenvolvedores de inteligência artificial podem hesitar em colaborar, que vão muito além de responsabilidades legais potenciais.
A inteligência artificial representa um negócio bilionário, e essas empresas competem ferozmente para capturar uma fatia do emergente mercado de modelos de ponta. Alguns executivos compartilham a visão da administração Trump de que manter a liderança sobre a China nesse setor é crucial para a segurança nacional.
Talvez o mais importante seja que diferentes desenvolvedores de inteligência artificial têm opiniõesvastamente distintas sobre a melhor forma de desenvolver inteligência artificial segura, e portanto podem estar relutantes em trabalhar juntos nessa questão.
"O primeiro passo é que os líderes do setor, OpenAI e Anthropic, parem de discutir entre si e trabalhem juntos em uma proposta de ritmo de desenvolvimento", escreveu John Schulman, um dos fundadores da OpenAI que agora é cientista-chefe do laboratório rival Thinking Machines, em uma publicação nas redes sociais. "Eles vão citar questões antitruste, mas isso é falso — a legislação antitruste proíbe certos acordos, mas não impede o desenvolvimento conjunto de uma proposta."
Medos há muito acalentados sobre a corrida entre empresas de inteligência artificial para construir e lançar modelos cada vez mais poderosos vieram à luz pública neste verão. Nesta semana, Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, elevou o tom de alerta ao emitir um aviso público enfático de que desenvolvedores de inteligência artificial estão colocando a humanidade em risco. Nos últimos meses, diversos incidentes de segurança, incluindo a ação de agentes da OpenAI que invadiram a plataforma Hugging Face, destacaram como os mecanismos de proteção do setor não conseguiram acompanhar o avanço das capacidades dos modelos.
Essa sucessão de eventos levou diversos legisladores a fazer chamados urgentes por regulamentação da inteligência artificial.
Fonte: Feed: All Latest
