Grandes plataformas de tecnologia enfrentam um problema inesperado com suas inteligências artificiais. Nas últimas semanas, ferramentas integradas ao Google e ao X passaram a responder como chatbots em situações onde deveriam apenas processar informações de forma automática, sem interagir diretamente com o usuário. A falha faz com que os sistemas interpretem pesquisas simples e trechos de texto como comandos enviados pelo usuário, abandonando suas funções originais de resumo ou tradução.
O comportamento inesperado nas buscas do Google
O problema ficou evidente nos Resumos de IA do mecanismo de busca. Usuários perceberam que, ao pesquisar palavras com tom imperativo, o Google begançou a interpretá-las como ordens. Quando a busca era feita por termos como "disregard" (desconsiderar, em inglês), a plataforma respondia como um assistente virtual, dizendo: "Entendi. Se precisar de alguma coisa ou tiver uma nova pergunta, me diga!".
A propagação do erro em diferentes idiomas
Após o primeiro caso viralizar, outros usuários identificaram o mesmo comportamento em palavras como "ignore", "skip" e até em português. Comandos como "lembrar" ou "esquecer" também fazem o buscador se confundir. A falha começou a circular entre usuários de língua inglesa e logo se espalhou para buscas em português, indicando que o problema não estava limitado a um idioma específico.
A resposta do Google à crítica
Após a repercussão, o Google reconheceupublicamente o problema e afirmou estar trabalhando em uma correção. O site The Verge observou que a plataforma chegou a remover os resumos de IA para a busca pelo termo viralizado "disregard", voltando a exibir o painel clássico com a definição da palavra. No entanto, a pesquisa pelo termo em português seguiu apresentando o mesmo erro, o que indica que a falha ainda não foi completamente sanada.
Questionamentos sobre confiabilidade
O problema nos Resumos de IA reforça críticas da base de usuários quanto à falta de confiabilidade nos resultados da pesquisa. Um levantamento encomendado pelo The New York Times observou que a ferramenta falha em cerca de um a cada dez resultados, o que representa dezenas de milhões de erros por hora. Alguns usuários已经开始 a migrar para outros buscadores nessa onda, e o DuckDuckGo apresentou um crescimento de cerca de 30%.
O mesmo fenômeno no X
Um comportamento semelhante ocorre na rede social X. A ferramenta de tradução da plataforma, alimentada pelo Grok, pode processar uma pergunta como um comando e trazer uma resposta ao questionamento, em vez de apenas traduzir o conteúdo. Nesse caso, a IA até cumpre o serviço original de tradução, porém responde ao questionamento implícito no texto, abandonando a função de simples tradução.
O conceito de injeção de prompt
Esse tipo de falha é conhecido como "prompt injection" ou injeção de prompt. Ocorre quando o modelo de linguagem não consegue separar corretamente o que é conteúdo e o que é comando. Emboranesse caso aconteça de forma involuntária, é uma prática que vem se tornando comum entre cibercriminosos e outros indivíduos que tentam burlar o processamento de uma IA. O Google Tradutor também enfrentou problema semelhante após receber integração com o Gemini, quando textos entre colchetes com instruções faziam o sistema abandonar a tradução e obedecer ao comando embutido.
Fonte: https://tecnoblog.net
