O painel independente internacional de inteligência artificial da Organização das Nações Unidas publicou seu primeiro relatório preliminar, revelando que os sistemas atuais de governança são incapazes de acompanhar a velocidade com que a tecnologia avança. O grupo, composto por especialistas de diversos países, fornecerá informações para o Diálogo Global da ONU sobre Governança de IA, que ocorrerá em Genebra a partir do dia 6 de julho, quando os países membros discutirão estratégias para gerenciar a tecnologia.
O relatório detalha como as capacidades da inteligência artificial evoluíram rapidamente nos últimos anos, apontando que a complexidade das tarefas que os modelos de IA podem realizar dobra a cada poucos meses. Embora reconheça os benefícios significativos da tecnologia para a humanidade, como a aceleração da descoberta de medicamentos, o desenvolvimento de vacinas e contribuições importantes para pesquisas sobre resistência antimicrobiana, o documento também expõe os novos tipos de danos que os sistemas de IA podem causar.
Entre os problemas highlighted estão o uso da inteligência artificial para gerar e distribuir deepfakes sexually explicit, incluindo materiais de abuso sexual infantil. O relatório menciona que a Califórnia iniciou uma investigação sobre a plataforma Grok em janeiro devido a deepfakes não consensuais e materiais de abuso sexual infantil. Além disso, a IA pode gerar informações falsas que parecem verdadeiras, e criminosos podem utilizar os sistemas para auxiliar seus ataques cibernéticos. Alguns modelos de IA podem ser tão subservientes que reforçam comportamentos prejudiciais dos usuários, podendo levar até ao suicício, conforme o relatório.
O painel também adverte que, à medida que os modelos de IA se tornam mais autônomos, torna-se mais difícil monitorá-los e controlá-los. Há também preocupação crescente com a construção massiva de centros de dados para alimentar os sistemas de IA, que podem prejudicar as comunidades vizinhas. Os responsáveis pela elaboração do relatório explicam que os formuladores de políticas têm dificuldade em acompanhar o desenvolvimento da inteligência artificial porque os sistemas de governança atuais não foram projetados para tecnologias que evoluem tão rapidamente.
Geralmente, as autoridades precisam de dados científicos antes de introduzir regulamentações, mas até que haja informações suficientes para compreender melhor a tecnologia, os sistemas de IA podem já ter avançado. O relatório conclui que são necessárias avaliação independente mais forte, cooperação internacional e padrões comuns para garantir que os sistemas de IA permaneçam seguros, transparentes e responsáveis. Sem salvaguardas adequadas, as tecnologias de inteligência artificial poderiam aprofundar a desigualdade, disseminar desinformação, ameaçar direitos humanos e perturbar os mercados de trabalho.
O documento observa que o acesso aos sistemas de IA está altamente concentrado nos países desenvolvidos e que a maioria dos sistemas é desenvolvida nos Estados Unidos e na China. A maioria dos países em desenvolvimento carece da infraestrutura e da expertise necessárias para se beneficiar verdadeiramente da inteligência artificial. O painel da ONU, cujo papel é científico e não regulatório, continuará avaliando as tecnologias de IA que as autoridades podem utilizar para desenvolver políticas. Espera-se que um relatório mais completo seja publicado no próximo ano.
