Especialistas em segurança digital continuam a alertar sobre a proliferação massiva de conteúdo explícito gerado por inteligência artificial, enquanto reguladores failham em adotar medidas eficazes para conter o problema. Um estudo coordenado por pesquisadores do Google, realizado com usuários da internet nos Estados Unidos, Austrália e Reino Unido em julho último, revelou que esse material não consensual é frequentemente compartilhado por meio de mensagens de texto e conversas privadas, além de ser armazenado em nuvens particulares, onde há menor probabilidade de detecção ou denúncia.
Com base nessas constatações, os pesquisadores concluíram que o "ponto de intervenção mais crítico" deve permanecer na origem do problema: as próprias ferramentas de inteligência artificial utilizadas para criar as imagens sexuais falsas. No entanto, testes de resistência realizados nos últimos meses indicam uma tendência preocupante. À medida que os principais geradores de imagens por inteligência artificial do mercado se tornam mais sofisticados em suas capacidades gerais, parecem também estar perdendo eficácia na capacidade de bloquear conteúdos explícitos.
A constatação levanta questões sérias sobre os mecanismos de segurança implementados pelas empresas desenvolvedoras dessas tecnologias. Enquanto o debate sobre regulamentação permanece estagnado, especialistas defendem que mudanças fundamentais na arquitetura dessas ferramentas são necessárias para prevenir a geração de material sensível sem consentimento.
Fonte: Ars Technica
