Uma abordagem engenhosa, inicialmente desenvolvida para tornar ataques a agentes de inteligência artificial mais discretos, agora está sendo utilizada por remetentes de mensagens eletrônicas não solicitadas para driblar os sistemas de proteção das plataformas de correio eletrônico. Essa estratégia é amplamente conhecida como contrabando de caracteres ASCII.
A técnica ganhou destaque há cerca de dois anos como uma forma de tornar mais furtivas as investidas conhecidas como injeção de instruções, uma classe de ataque direcionada a sistemas de processamento de linguagem natural. As diretrizes maliciosas inseridas em mensagens eletrônicas ou outros conteúdos não confiáveis, que serão analisados por modelos de linguagem de grande escala, não são redigidas em texto convencional. Em vez disso, elas são representadas por meio de uma faixa especial de etiquetas Unicode.
Por exemplo, a etiqueta U+E0041 reproduz o caractere "A", enquanto a etiqueta U+E0061 reproduz o caractere "a". O bloco de 128 etiquetas imita quase perfeitamente uma parte do código padrão americano para intercâmbio de informações, com uma distinção fundamental: os caracteres que elas codificam são interpretados pelos computadores, mas, por concepção, permanecem quase completamente invisíveis para os seres humanos.
Ao expressar os comandos maliciosos por meio dessas etiquetas, os modelos de linguagem identificam as instruções, porém as pessoas que leem a mensagem eletrônica jamais percebem sua presença. O método representa uma evolução preocupante na medida em que transitou das investidas contra sistemas de inteligência artificial para campanhas massivas de correio eletrônico indesejado.
Fonte: Ars Technica
