Um tribunal regional de Munique, na Alemanha, proferiu uma decisão que pode transformar a forma como mecanismos de busca e chatbots baseados em inteligência artificial operam em todo o mundo. O tribunal decidiu preliminarmente que o Google é responsável por uma série de afirmações falsas geradas pela funcionalidade AI Overviews, determinando que a empresa impeça a disseminação de informações errôneas ou imprecisas através de seu mecanismo de busca.
A decisão surgiu de um caso primeiro reportado pelo Decoder, no qual duas editoras descobriram que os resumos gerados por IA do Google as associavam, em determinadas buscas, a práticas comerciais questionáveis, golpes e fraudes de assinatura, sem qualquer base para fazê-lo. No início deste ano, as empresas afetadas enviaram uma notificação extrajudicial ao gigante tecnológico, segundo o relatório. O Google negou responsabilidade, argumentando que seu recurso de resumo automático alerta os usuários que a informação pode conter erros e deve ser verificada independentemente.
A análise do tribunal concluiu que a IA do Google combinou informações correspondentes a outras empresas que haviam sido sinalizadas por práticas ilícitas com dados dos autores do processo, gerando associações que não apareciam em nenhuma das fontes链接 pelo mecanismo de busca. As autoridades constataram que, diferentemente dos mecanismos de busca tradicionais, que apenas exibem listas de links com declarações feitas por terceiros, a ferramenta do Google produziu "declarações independentes, novas e substanciais" baseadas em uma interpretação equivocada das informações disponíveis na internet.
De acordo com o tribunal, corrigir informações falsas não é responsabilidade de terceiros. O Google é a única entidade com capacidade de modificar a tecnologia por trás de seus resumos gerados por IA e, portanto, "deve ser responsabilizado". Além disso, o tribunal considerou que a linha de defesa do Google não tinha mérito, já que o resumo contestado "contém declarações que não aparecem de forma alguma nos resultados de busca".
A interpretação do tribunal sobre o papel da IA na apresentação de resultados de busca pode tornar este caso um precedente histórico. A decisão considera uma grande empresa responsável pela influência de seus desenvolvimentos mais avançados em plataformas amplamente utilizadas. Até agora, na maioria dos sistemas legais, os mecanismos de busca foram considerados ferramentas que apenas facilitam o acesso a conteúdo criado por terceiros e disponível na web. Esse status lhes conferiu certo nível de proteção quando as informações publicadas eram falsas, imprecisas, enganosas ou mesmo difamatórias.
No entanto, o tribunal alemão considerou que essa salvaguarda não se aplica quando os mecanismos de busca incorporam sistemas de IA generativa. Segundo seu raciocínio, essa tecnologia é capaz de produzir declarações inexistentes com base em múltiplas fontes e, consequentemente, as empresas responsáveis por operá-la devem assumir responsabilidade pelo conteúdo resultante. Os juízes também concluíram que, embora o Google incentive os usuários a verificar informações devido ao potencial de alucinações inerentes aos modelos de IA, esse alerta não exime o distribuidor de conteúdo de responsabilidade. Caso contrário, argumentaram, as vítimas de declarações falsas seriam praticamente indefesas, já que as fontes originais nunca fizeram essas declarações e, portanto, não poderiam ser objeto de ação legal.
Da mesma forma, o tribunal considerou que os resultados gerados por um sistema de IA não podem ser protegidos sob os princípios de liberdade de expressão, pois são produto de um algoritmo projetado, treinado e gerenciado por uma empresa, e não a expressão de uma opinião individual.
Como medida preventiva para evitar possível recorrência, a decisão exigiu que o Google removesse uma grande parte das declarações consideradas difamatórias neste caso e cobrisse 80% dos custos legais decorrentes do processo. Um porta-voz da empresa, citado pela Ars Technica, sugeriu que a decisão pode ser apelada. "Investimos profundamente na qualidade dos AI Overviews para garantir que a grande maioria das respostas forneça informações precisas, e eles são projetados para refletir as informações que existem na web", diz o comunicado. "Estamos revisando cuidadosamente esta decisão, que ainda não é final."
A decisão do tribunal alemão pode ter repercussões globais para a indústria de inteligência artificial. Empresas como OpenAI, Anthropic e Perplexity AI também alertam seus usuários que as respostas geradas por seus sistemas podem conter erros ou ser enganosas e, como o Google, recomendam verificar as informações antes de usá-las. Esse alerta é encontrado normalmente nos termos de serviço que os usuários concordam ao criar uma conta em uma plataforma.
No entanto, este caso argumenta que tais alertas não são suficientes para isentar os desenvolvedores de responsabilidade. A decisão considera que, quando uma IA gera novas declarações que não aparecem diretamente em suas fontes originais, a empresa que projeta, treina, opera e gerencia o sistema deve assumir responsabilidade legal por quaisquer danos causados por essas declarações.
Fonte: Feed: All Latest
