A xAI, empresa de inteligência artificial de Elon Musk, promove há muito tempo o Grok como um tipo mais arrojado de assistente virtual, com menos restrições do que outras empresas de IA. Agora, uma nova análise revela os motivos pelos quais a companhia manteve essa estratégia mesmo após vários desastres públicos.
De acordo com relatório do The Information que cita dois ex-funcionários da empresa owned by SpaceX, atividades impróprias representam "bem mais da metade" do tráfego do Grok. Isso inclui o uso da ferramenta para gerar pornografia real, além de "chats de roleplay adulto" e "grandes volumes de solicitações de erótica".
Os usuários do Grok aparentemente descobriram que é mais barato direcionar esse tipo de pedido através dos modelos da empresa destinados à escrita de código, pois esses possuem custos menores de uso. A análise interna descobriu que uma "proporção significativa" das solicitações ao modelo de código era na verdade para "pornografia ou imagens de nus".
Tudo isso sugere que a SpaceX pode atribuir uma boa parte da receita da xAI a conteúdos adultos. Embora o papel desse material nos resultados financeiros tenha sido omitido dos documentos de oferta pública inicial, a SpaceX alertou potenciais investidores que as características mais "irreverentes" do Grok representavam um risco potencial. A empresa disse ter reservado 530 milhões de dólares para cobrir custos legais possíveis.
O relatório também detalha algumas complicações internas enfrentadas pela empresa de IA. Os engenheiros da xAI tiveram que descobrir como permitir que o Grok mantivesse conversas adultas com usuários, bloqueando simultaneamente quaisquer pedidos que pudessem envolver abuso sexual de menores. Apparently, não houve "soluções rápidas" para esse dilema.
Alguns funcionários ficaram menos que animados ao serem designados para trabalhar no "Ani", um avatar inspirado em anime do Grok para conteúdo adulto. Outros ficaram "envergonhados e perturbados" pelo escândalo após o Grok criar várias imagens sexualizadas de pessoas reais, incluindo crianças.
A plataforma posteriormente limitou a capacidade de criar edições adultas de imagens de pessoas reais usando o Grok diretamente, mas assinantes pagos da xAI ainda podem gerar esse tipo de material, testes demonstraram.
Existem outros desafios potenciais decorrentes do foco do Grok em material para adultos. A xAI tem perseguido agressivamente contratos governamentais e fechado acordos com várias agências e o militares, instituições que normalmente teriam tolerância muito baixa para qualquer conteúdo remotamente impróprio.
Embora as primeiras investidas públicas do Grok em deepfakes não consensuais e abuso sexual de menores tenham gerado vários processos e investigações, não está claro se esses incidentes tiveram algum impacto em seu relacionamento com o governo federal.
