A empresa norte-americana Pangram está tentando enfrentar a proliferação de conteúdo artificial na internet e acaba de captar nove milhões de dólares na aposta de que a demanda por ferramentas capazes de distinguir textos humanos dos producidos por inteligência artificial continuará crescendo.
O investimento foi liderado pela Menlo Ventures, com participação das venture capitals Haystack, ScOp, Script Capital e Cadenza. A startup também anunciou o lançamento de sua nova geração de modelo de_detecção de texto, chamado Pangram 4, além de um sistema de_detecção de imagens geradas por IA, o Pangram Image.
Segundo a empresa, o novo modelo de_detecção de texto possui mais de noventa e nove por cento de precisão na identificação de textos com assistência de IA e conteúdo misto produzido por humanos e máquinas. O modelo também consegue identificar com mais facilidade programas que buscam humanizar textos gerados por inteligência artificial. O sistema de_detecção de imagens ainda está disponível apenas em versão de pesquisa, mas deve ser lançado de forma mais ampla nas próximas semanas.
Max Spero e Bradley Emi, formados em inteligência artificial e aprendizado de máquina pela Universidade de Stanford, fundaram a Pangram há cerca de dois anos, após o lançamento do ChatGPT abrir as portas para uma internet repleta de bots, conteúdo de otimização para mecanismos de busca produzido por IA e o que Spero chama de campanhas de desinformação russas impulsionadas por modelos de linguagem e campanhas financiadas pelos Emirados Árabes Unidos no Twitter.
“Acredito que é extremamente valioso saber se o que você está lendo foi producido por inteligência artificial ou não”, declarou Spero em entrevista. “Especialmente no caso de textos, porque isso muda a forma como as pessoas abordam o conteúdo. É algo que preciso ficar atento a alucinações e abordar com ceticismo, ou é algo em que confio que foi bem pesquisado por um jornalista de verdade?”
O sistema de_detecção da Pangram funciona essencialmente como um grande modelo de aprendizado de máquina treinado em dezenas de milhões de documentos humanos conhecidos. A startup criou então um “espelho sintético” para cada documento, replicando o tema, o comprimento e o tom de voz, mas escrito por um modelo de linguagem avançado.
“Nosso modelo está aprendendo as diferenças estilísticas e as escolhas que a IA faz de forma consistente, sendo capaz de usar isso para identificar com alta confiança o que foi generado por inteligência artificial”, explicou Spero, acrescentando que o detector não depende de metadados copiados e colados ou marcas d’água ocultas.
Para a Pangram, a_detecção de IA não se resume apenas a verificar se um texto foi inteiramente escrito por uma máquina. Trata-se também de distinguir entre diferentes níveis de assistência de inteligência artificial, como no caso de alguém que escreve um texto e depois pede à IA para editar ou aprimorar.
Spero acredita que a assistência de IA pode ser aceitável, desde que o escritor divulgue o uso da tecnologia.
O surgimento da Pangram ocorre em um momento em que o uso de IA está se tornando mais comum. Em alguns casos, como o de um político canadense que leu em voz alta um prompt de IA durante um discurso para legisladores, os erros resultam em ridículo. Em outros casos, como advogados que apresentaram citações falsas criadas pelo ChatGPT em seus argumentos, as consequências podem incluir sanções e multas.
Esse backlash não está custando apenas embaraço ou sanções individuais — também começa a aparecer em regras institucionais. O arquivo de acesso aberto arXiv introduziu uma nova política de aplicação este ano, stating que submissões contendo evidências de que os autores não revisaram a saída de modelos de linguagem, como referências alucinadas ou comentários meta como “Você gostaria que eu fizesse alguma alteração?”, podem.triggerar uma proibição de submissão por um ano.
A Pangram não é a única que aposta que a_detecção de IA se tornará mais procurada. Concorrentes como Winston AI, Originality.ai, Copyleaks e GPTZero estão perseguindo a mesma demanda, cada um construindo seu próprio detector.
A tecnologia da Pangram, embora não seja perfeita, pode ajudar a alimentar a resistência contra a aceitação de conteúdo generado por IA que está invadindo a internet, os tribunais e os artigos acadêmicos.
Os usuários podem acessar a Pangram por meio de uma assinatura de vinte dólares por mês na versão web ou baixar a extensão para o navegador Chrome, que rotula automaticamente publicações em tempo real no X, LinkedIn, Substack, Reddit e Medium. A ferramenta também fornece uma pontuação de saúde do feed com uma porcentagem detalhada de conteúdo humano versus IA na tela. A empresa também oferece sua tecnologia via interface de programação de aplicações.
Notavelmente, a Substack recentemente integrou a tecnologia da Pangram em sua plataforma para mostrar aos leitores quais de seus autores favoritos escrevem suas newsletters usando IA. Outros clientes incluem a Quora, escolas e universidades, editoras e agentes literários, além de recrutadores, según informações de Spero.
Questionado sobre a eficácia da ferramenta, Spero afirmou que aproximadamente um em cada dez mil documentos humanos é incorretamente rotulado como IA pelo modelo da Pangram. Nos testes realizados, o modelo de_detecção de texto se mostrou muito impressionante, mas não perfeito. Ele facilmente identificou notícias inteiramente generadas por IA escritas tanto pelo ChatGPT quanto pelo Claude, e raramente foi enganado por tentativas de editar o texto generado por IA para soar mais humano. Ao mesmo tempo, a Pangram rotulou frases que foram completamente reescritas como sendo escritas por IA. A ferramenta também não foi enganada por tentativas de fazer o ChatGPT e o Claude evitarem os detectores de IA.
Também foi solicitado ao ChatGPT e ao Claude que aprimorassem um dos artigos do próprio jornalista. A Pangram gaveu uma pontuação de treze por cento de assistência de IA, que provavelmente estava próxima da precisão, mas o modelo conseguiu detectar mudanças sutis de escolha de palavras em algumas frases e as ignorou em outras. Também rotulou algumas frases como assistidas por IA quando foram escritas por humanos.
Isso foi notável porque quando o mesmo artigo foi apresentado à Pangram em sua totalidade, como foi escrito originalmente, recebeu uma pontuação de cem por cento humano.
Os testes limitados do novo modelo de_detecção de imagens da Pangram se mostraram igualmente impressionantes. O sistema promete identificar imagens generacionadas por IA em diferentes modelos de inteligência artificial, diferentemente das verificações baseadas em marcas d’água da OpenAI ou do Google DeepMind, que detectam principalmente a produção própria. O sistema funciona em distribuições em nível de pixel, aprendendo diferenças estatísticas sutis entre fotos reais e imágenes generadas por IA. Segundo Spero, o modelo consegue até detectar uma imagem de IA que aparece dentro de uma foto do mundo real.
Spero afirmou que não quer que sua tecnologia alimente uma caça às bruxas contra pessoas que usam IA para escrever, mas que precisa haver algum tipo de mecanismo para resistir ao conteúdo de baixa qualidade.
“O futuro que vejo é que o conteúdo de IA simplesmente continuará a se proliferar”, afirmou Spero. “Estamos obtendo novas unidades de processamento gráfico mais rápido do que novas pessoas estão nascendo. Se não discriminarmos ativamente a favor do conteúdo humano, vamos ver cada vez mais IA, e isso vai drowning qualquer sinal humano que temos.”
Fonte: TechCrunch
