A Comissão Europeia pretende proibir chatbots de simular emoções ou manter relacionamentos interpessoais com pessoas menores de 18 anos. A medida faz parte do projeto de lei denominado EU Kids Act, apresentado na quinta-feira, que também impõe restrições semelhantes ao acesso de menores a redes sociais e plataformas de compartilhamento de vídeos.
De acordo com a proposta, crianças com menos de 13 anos ficarão impedidas de interagir com chatbots sem a supervisão de seus responsáveis legais. As plataformas digitais serão obrigadas a incorporar mecanismos de proteção à infância em seus produtos, sob risco de receberem multas que podem chegar a 6 por cento de seu faturamento mundial.
Os chatbots que operam na União Europeia também não poderão manter memória de conversas anteriores entre sessões separadas. A Comissão teme que esse recurso permita o acúmulo de dados sensíveis de menores ao longo do tempo e potentially reinforcing harmful interaction patterns, ou seja, reforçando padrões de interação prejudiciais.
Os provedores de redes sociais, plataformas de vídeos e jogos não poderão ativar automaticamente nem estimular o uso de chatbots baseados em inteligência artificial em seus serviços. A legislação ainda proíbe que esses assistentes virtuais sejam fixados no topo da lista de contatos de menores, prática que era adotada pelo aplicativo Snapchat.
Simeon de Brouwer, consultor de políticas do grupo de defesa European Digital Rights, sediado em Bruxelas, comemorou as restrições aos chatbots, mas criticou a limitação dessas regras apenas aos jovens. "Todos merecemos ser protegidos de sistemas de inteligência artificial projetados para criar vício, que geram dependências emocionais ou que são ativados por padrão sem consentimento", declarou à publicação.
A Comissão Europeia manifestou preocupação de que a dependência de chatbots possa prejudicar o desenvolvimento infantil e as relações interpessoais dos jovens. Também há inquietação quanto a orientações perigosas fornecidas por esses sistemas, incluindo conselhos sobre saúde mental e desenvolvimento pessoal que podem incentivá-los a adotar comportamentos de risco.
Segundo pesquisa realizada pela Ipsos BVA na França, Alemanha, Suécia e Irlanda, aproximadamente metade dos europeus com idades entre 11 e 25 anos já discutiram assuntos íntimos ou pessoais com chatbots. A Austrália e o Reino Unido também tentam restringir o acesso de menores a essas ferramentas por meio de suas legislações sobre redes sociais.
O órgão europeu ainda chamou atenção para os danos causados por deepfakes, imagens sintéticas manipuladas geradas por chatbots. A presidente Ursula von der Leyen enfatizou: "Não precisamos aceitar que fotos de meninas sejam utilizadas para criar imagens sexualizadas geradas por inteligência artificial. A Europa tem poder para agir." Embora o Regulamento de Inteligência Artificial europeu exija a rotulagem de conteúdo sintético desde agosto, as regras atuais se aplicam apenas a deepfakes gerados para fins comerciais.
A Comissão também atribui à distração digital a responsabilidade pelo declínio de habilidades básicas entre os jovens. Uma pesquisa da Organização para a Cooperação e Desenvolvimento Econômico, realizada em 91 países, revelou que crianças que utilizam chatbots para trabalhos escolares apresentam desempenho inferior em comparação àquelas que não usam essas ferramentas. Pesquisadores da rede independente EU Kids Online alertaram que essas preocupações sobre impactos cognitivos "revelam a ausência de direitos das crianças no desenvolvimento das ferramentas de inteligência artificial generativa".
Fonte: Feed: All Latest
