O gobernador Gavin Newsom, da Califórnia, sancionou um conjunto abrangente de projetos de lei voltados à proteção dos jovens californianos no ambiente digital. As novas regulamentações estabelecem restrições rigorosas sobre funcionalidades potencialmente viciantes em plataformas de redes sociais, além de impor limites à forma como adolescentes podem interagir com assistentes virtuais baseados em inteligência artificial.
No âmbito da inteligência artificial, as empresas responsáveis por chatbots deverão implementar recursos obrigatórios de proteção. Entre as exigências estão limites de tempo de uso, disponibilização de materiais de apoio à saúde mental e protocolos específicos para situações em que menores de idade demonstrem tendências autodestrutivas. Os sistemas também deberán notificar os pais ou responsáveis quando adolescentes desativarem configurações de segurança.
As empresas de tecnologia que trabalham com inteligência artificial terão que submeter suas plataformas a auditorias independentes de segurança infantil e realizar avaliações anuais de riscos. O descumprimento dessas normas poderá resultar em consequências legais e responsabilização judicial das companhias.
Uma das medidas mais polêmicas aprobadas restringe severamente o acesso de menores de 16 anos a funcionalidades consideradas viciantes nas redes sociais. A legislação define como potencialmente viciantes recursos como reprodução automática de vídeos, sistemas de notificações e conteúdos personalizados por algoritmos. A Fundação Fronteira Eletrônica, organização de defesa dos direitos digitais, criticou duramente a medida, argumentando que ela representa uma proibição disfarçada do acesso juvenil às redes sociais e pode expor usuários a maiores riscos de privacidade ao exigir verificação de idade invasiva.
Outras regulamentações incluem a ampliação da definição de exploração sexual infantil para abranger imagens geradas ou manipuladas por inteligência artificial, além de novas proteções contra publicidade direcionada e limitações ao uso de dados de estudantes do ensino básico por sistemas de inteligência artificial.
