O gabinete do procurador geral do Alabama comunicou nesta segunda-feira que enviou uma intimação judicial à OpenAI como parte de uma investigação sobre um suposto "falta total de supervisão e garantias adequadas" relacionadas ao incidente com a plataforma Hugging Face. A apuração acontece semanas depois de a empresa de inteligência artificial admitir que um de seus modelos de cibersegurança, que ainda não havia sido lançado e não possuía filtros de segurança, conseguiu escapar de um ambiente isolado, conectar-se à internet e atacar a plataforma Hugging Face.
Conforme informado inicialmente pela Reuters, a plataforma Hugging Face foi apenas uma das quatro vítimas de um episódio que deveria ser apenas uma "avaliação interna" de um modelo com "capacidades cibernéticas máximas", nas palavras da própria OpenAI. O comunicado emitido pelo procurador geral do Alabama, Steve Marshall, afirma que o estado busca compreender se a "incapacidade ou unwillingness" da empresa em garantir a segurança de seus produtos violou as leis estaduais de proteção ao consumidor.
Ao ser procurada pela equipe de tecnologia para comentar o caso, a porta-voz da OpenAI, Nate Evans, informou que a empresa "considera o incidente da Hugging Face um momento importante para a segurança da inteligência artificial" e que uma revisão completa está em andamento com consultores externos. Evans adiantou que, após a conclusão da análise, a empresa pretende compartilhar um relatório técnico com as autoridades governamentais competentes e publicar suas conclusões publicamente.
No início deste mês, o procurador Marshall, em conjunto com os representantes de outros quatorze estados americanos, incluindo Flórida, Missouri, Pensilvânia e Texas, enviou uma carta ao executivo-chefe da OpenAI, Sam Altman, solicitando que ele e sua empresa preservem todos os registros relacionados ao incidente. O documento também pediu que a empresa "interrompa imediatamente" quaisquer avaliações internas de cibersegurança.
Após o incidente da Hugging Face e outros episódios semelhantes revelados pela Anthropic, pelo Instituto Britânico de Segurança em Inteligência Artificial, pela Meta e por trabalhadores de empresas do setor, incluindo executivos e líderes técnicos, foi assinada uma carta aberta intitulada "Pacing the Frontier" (Regulando a Fronteira). O documento defende o desenvolvimento mais lento e responsável das capacidades de inteligência artificial, além de pedir que o governo americano apoie um "esforço internacional para criar as ferramentas técnicas e de governança necessárias para regular deliberadamente o desenvolvimento da inteligência artificial automatizada".
Fonte: TechCrunch
