A era da inteligência artificial generativa trouxe consigo um efeito colateral inesperado: o spam nunca foi tão sofisticado e abundante. Plataformas digitais enfrentam uma avalanche de conteúdo automatizado e mensagens indesejadas, impulsionados pela facilidade de acesso a modelos de linguagem de grande escala. O Reddit, uma das maiores comunidades online do mundo, decidiu enfrentar esse problema utilizando as mesmas ferramentas que o criaram.
A empresa desenvolveu sistemas baseados em inteligência artificial para identificar e bloquear spam em suas plataformas. Segundo publicações da própria empresa, o Reddit consegue barrar aproximadamente 23 milhões de visualizações de spam diariamente, além de detectar cerca de 25 mil novas publicações e comentários spam a cada dia. Os números impressionam e mostram a magnitude do problema que as plataformas digitais enfrentam na atualidade.
A ironia não passou despercebida: a solução para um problema largely criado pela própria tecnologia envolve o uso dessa mesma tecnologia. Em um cenário onde a máxima "lutar fogo com fogo" se aplica perfeitamente, as plataformas não têm muitas alternativas a não ser adotar ferramentas de IA para competir no mesmo nível dos maus atores. A empresa afirma que seus novos sistemas identificam padrões sutis de comportamento coordenado e hype artificial que os sistemas mais antigos simplesmente não conseguiam detectar.
Os resultados práticos confirmam a eficácia da abordagem. Entre janeiro e março deste ano, o Reddit conseguiu reduzir a exposição dos usuários a spam em 20% comparado ao trimestre anterior. Outras gigantes da tecnologia, como YouTube, Meta e Instagram, também adotaram estratégias semelhantes, permitindo que usuários publiquem conteúdo gerado por inteligência artificial desde que façam a devida divulgação. O TikTok foi além e oferece aos usuários a opção de controlar a quantidade de conteúdo gerado por IA que desejam visualizar.
Especialistas alertam, contudo, que a moderação automatizada por inteligência artificial deve andar lado a lado com a supervisão humana para alcançar resultados verdadeiramente eficazes. A capacidade de detectar rapidamente conteúdo gerado por IA também significa que plataformas podem identificar violações como discurso de ódio de forma mais ágil, embora a supervisão humana continue essencial para contextos sutis que máquinas ainda têm dificuldade de interpretar.
Fonte: TechCrunch
