Os recursos de memória dos principais chatbots de inteligência artificial estão transformando a experiência de uso, tornando as interações mais personalizadas e contextuais. No entanto, essa evolução tecnológica tem gerado consequências inesperadas. Usuários de plataformas como ChatGPT, Gemini, Copilot e Claude relatam que as ferramentas passaram a insistir em informações desatualizadas, interpretar dados de forma equivocada e influenciar recomendações futuras com base em memórias que não reflete mais a realidade.
Casos reais de memórias persistentes
O engenheiro de software Brian Del Rosario, residente em Utah, nos Estados Unidos, viveu uma situação particularmente constrangedora. Após se separar da esposa, ele precisou informar explicitamente ao chatbot que havia terminado o casamento para evitar que a IA continuasse incluindo a ex-companheira em planos de viagem. O problema, contudo, não terminou aí: o sistema passou a relacionar os mais diversos assuntos ao divórcio, fazendo referências constantes ao evento em respostas sobre agenda de trabalho e até em desabafos profissionais.
Mike Taylor, consultor da empresa Every, enfrentou episódio semelhante. Depois de mencionar que era britânico vivendo nos Estados Unidos, passou a receber sugestões de bares com cervejas típicas do Reino Unido. "Estou aqui pelos bares americanos, não pelos britânicos", criticou o profissional, evidenciando como a IA insiste em dados que já não correspondem ao interesse atual do usuário.
Como funcionam os sistemas de memória
A proposta por trás da memória em chatbots é relativamente simples: utilizar conversas anteriores para aprimorar respostas futuras, criando uma experiência mais alinhada com as preferências e necessidades de cada indivíduo. O recurso foi introduzido pelo ChatGPT em 2024 e, desde então, concorrentes passaram a oferecer sistemas similares, competindo pela personalização cada vez mais sofisticada das interações.
A armadilha das informações desatualizadas
Um dos principais riscos surge quando dados antigos continuam influenciando recomendações atuais. Um exemplo ilustrativo envolve alguém que pesquisou sintomas de TDAH para um filho e, semanas depois, passou a receber dicas de produtividade adaptadas para pessoas com dificuldades de atenção, como se o transtorno fosse do próprio usuário. O sistema assume informações temporárias como características permanentes.
Outro caso frequente ocorre com metas de saúde. Quando alguém informa que está treinando para uma maratona mas posteriormente sofre uma lesão sem atualizar a IA, as sugestões de alimentação e exercícios continuam voltadas para uma pessoa altamente ativa, ignorando completamente a nova condição física.
O Google reconheceu problemas semelhantes em exemplos divulgados pela empresa. O sistema poderia concluir que alguém gosta de golfe após identificar várias fotos em campos esportivos, quando a pessoa apenas acompanhava o filho em atividades infantis.
Soluções oferecidas pelas empresas
Diante das críticas, as principais empresas de IA começaram a implementar opciones de controle. O Google afirmou que passou a permitir que usuários mantenham a personalização ativa enquanto bloqueiam informações específicas. A OpenAI atualizou o funcionamento da memória para assinantes Plus e Pro. A Microsoft oferece a possibilidade de editar ou apagar lembranças armazenadas.
Todas as plataformas permitem desligar completamente a memória, excluir dados específicos ou utilizar conversas temporárias que não são salvas.
Perspectivas de especialistas sobre os riscos
Joshua Joseph, cientista-chefe de IA do Berkman Klein Center da Harvard University, comparou o funcionamento desses sistemas aos algoritmos de redes sociais. Segundo ele, pequenas interações podem alterar silenciosamente o tipo de resposta recebido no futuro, criando bolhas de informação personalizadas que reforçam padrões existentes.
Lucy Osler, professora da University of Exeter, alertou que os chatbots podem acabar reforçando inseguranças e narrativas negativas sobre o próprio usuário. A tendência das IAs de concordarem com as pessoas pode fortalecer pensamentos prejudiciais ou delirantes, um tema que já motiva discussões sobre possíveis regras de segurança para adolescentes no uso dessas ferramentas.
Recomendações para uso seguro
Especialistas recomendam revisar regularmente os dados armazenados nas plataformas de IA e evitar compartilhar informações sensíveis sem necessidade. Manter o controle sobre o que a memória do chatbot conserva pode evitar situações desconfortáveis e garantir que a tecnologia continue servindo aos interesses atuais do usuário, em vez de aprisioná-lo a versões desatualizadas de si mesmo.
Fonte: https://olhardigital.com.br
