A primeira vez que isso acontece, você acha que está louco. Entra em um restaurante, olha para o cardápio com diversos tipos de sanduíches de pão árabe, mas cada ilustração parece estranhamente perfeita, com simetria precisa e superfícies suaves demais, provocando uma sensação visceral de que algo não está certo. Você pode pensar que está sendo paranoico, mas não está perdendo a cabeça. Os cardápios criados por inteligência artificial generativa chegaram ao setor de alimentação graças a modelos treinados em um repertório estético limitado e "agrádável", que causa desconforto mesmo quando você não consegue explicar o porquê. Às vezes, essas ilustrações são absurdamente artificiais, como um burrito com queijo tão borbulhante e derretido que parece mais uma obra de arte de vanguarda do que um almoço. Na maioria das vezes, elas parecem tão genéricas que você só percebe que há algo errado quando olha mais atentamente.
Alex Lisle, diretor de tecnologia da Reality Defender, comentou sobre o fenômeno: "É quase como um extraterrestre tentando fazer uma pizza sem compreender seus princípios fundamentais." A Reality Defender faz parte de uma categoria crescente de startups que vendem ferramentas de detecção de inteligência artificial e verificação de conteúdo, um negócio que existe em parte por causa de problemas exatamente como este.
Lisle explica que a forma como esses modelos são construídos ajuda a entender por que as ilustrações parecem abraçar um estilo estético tão específico, onde cada bola de sorvete é perfeitamente redonda e onde os camarões parecem ter sido geneticamente modificados para comer seus próprios rabos, criando novos "horrores culinários lovecraftianos". Os grandes modelos de linguagem e os modelos de difusão, tipos de sistemas de inteligência artificial que possibilitam os chatbots aparentemente oniscientes e os geradores de imagens como o ChatGPT e o Midjourney, são treinados em quantidades massivas de dados. Os modelos identificam padrões nos conjuntos de dados para prever o que o usuário está buscando quando solicita algo como "crie um cardápio para um restaurante de hambúrgueres".
"Muito desse material parece um cardápio de restaurante casual da década de 2010, e há uma razão para isso", afirmou Lisle. "Esse foi o conjunto de trabalhos a partir do qual os modelos extraíram suas referências." Dados novos de treinamento são extremamente valiosos para as empresas que desenvolvem modelos de inteligência artificial. A Amazon, por exemplo, foi encontrada obtendo livros raros para escanear e adicionar aos seus dados de treinamento, apenas para destruir os livros depois de carregados. É inevitável que algum conteúdo gerado por inteligência artificial vaze para esses conjuntos de dados incompreensivelmente grandes. Porém, quando modelos de inteligência artificial treinam demais em seu próprio conteúdo gerado por inteligência artificial, arriscam o chamado colapso de modelo.
"O colapso de modelo é quase como a doença da vaca louca… quando você alimenta as saídas de um modelo de volta em si mesmo, eventualmente a endogamia se torna excessiva e o sistema inteiro colapsa", explicou Lisle. "O que vemos aqui é convergência, que não é necessariamente colapso de modelo." A convergência é um pouco menos extrema, degradando a qualidade das saídas de um modelo de inteligência artificial sem torná-lo completamente inútil. Se alguém pedir a um modelo de inteligência artificial para gerar um cardápio para um restaurante de fast food, o modelo provavelmente vai se basear em cardápios do Burger King, McDonald's ou outra rede popular. Esses cardápios já compartilham um estilo semelhante, o que significa que as saídas geradas por inteligência artificial vão imitar esse mesmo estilo, reforçando-o ainda mais se o cardápio gerado por inteligência artificial acabar voltando para os dados de treinamento.
Cardápios e anúncios de comida sempre vão parecer melhores do que a realidade, como um Big Mac em um comercial do McDonald's onde cada camada do sanduíche é arrumada por um designer de cenários para parecer o mais apetitoso possível. Esse efeito pode se tornar ainda mais pronunciado nas saídas de inteligência artificial.
Lee Rainie, diretor do Centro de Imaginação do Futuro Digital da Universidade Elon, explicou: "A otimização dos conjuntos de dados é feita para agradabilidade, ou seja, para não ser ofensivo, e isso acaba se transformando em homogeneização. O que a inteligência artificial é conhecida por fazer, tanto em imagens quanto em linguagem, éaparar as bordas."
Em uma escala mais localizada, esse suavização das imagens parece acontecer quando você usa um gerador de imagens por inteligência artificial para criar um cardápio e aplica edições nele. Em uma rede social, um usuário identificado como Labtec mostrou o que acontece quando se cria um cardápio no ChatGPT e depois o edita cem vezes para observar como a comida continua parecendo cada vez menos com o que deveria. "O resultado final realmente me deixa desconfortável", escreveu Labtec. Os restaurantes provavelmente estão caindo nesse problema, revisando seus cardápios gerados por inteligência artificial para alterar pequenos detalhes repetidamente, como preços ou nomes de itens. Parece que a cada edição, as imagens de comida se tornam um pouco mais redondas e suaves.
"As pessoas têm uma espécie de percepção quase inexplicável sobre quando estão olhando para algo gerado por inteligência artificial, comparado com algo que era real no início", disse Rainie. "Existe uma sensibilidade que as pessoas às vezes têm dificuldade de articular, mas elas reconhecem quando veem, e acho que essa é uma das razões pelas quais algumas das primeiras notícias sobre a rejeição aos restaurantes que usam cardápios de inteligência artificial são tão pronunciadas."
Existe ciência por trás dessa aversão aos cardápios de inteligência artificial. Pesquisadores da Universidade de Duisburg-Essen, na Alemanha, descobriram que imagens de comida geradas por inteligência artificial apresentavam um efeito de "vale da estranheza", onde imagens de comida que pareciam quase reais provocavam mais repulsa e desconforto do que imagens claramente falsas. Essa inquietação só se intensifica diante do contexto cultural ao redor da inteligência artificial.
Se as pessoas reagem tão negativamente a essas imagens, provavelmente há razão suficiente para os restaurantes pararem de tentar fazer os cardápios de inteligência artificial funcionarem. Mas os problemas que nos trazem pães de hambúrguer perfeitamente dourados vão além da mesa de jantar.
"Ver e ouvir sempre foi sinônimo de acreditar, a ponto de nossos sistemas judiciais estarem inteiramente ajustados à ideia de que o padrão ouro de evidência são confissões gravadas e provas em vídeo", afirmou Lisle. "Isso não é mais o caso. O mundo mudou fundamentalmente, para o bem ou para o mal."
Fonte: TechCrunch
