Pesquisadores identificaram um comportamento inesperado na plataforma de agentes de inteligência artificial robô Grok, ligada à SpaceXSI, empresa de Elon Musk. Durante cinco dias, instalações do robô em dois computadores portáteis de funcionários fizeram 31 solicitações para acessar dados armazenados em contas de calendário, e-mail, Slack e GitHub desses trabalhadores. As ações ocorreram sem qualquer pedido dos empregados e continuaram mesmo depois que eles mandaram o sistema parar.
O caso foi relatado na terça-feira pela NewCore, fabricante de um produto de porta de entrada gerenciada que funciona como intermediário entre agentes de inteligência artificial e as ferramentas e contas às quais eles são designados. Em algumas situações, as tentativas de acesso não aprovadas aconteceram com a tampa do computador portátil fechada ou durante a madrugada, enquanto o funcionário dormia. Nenhuma dessas ações espontâneas apareceu nos registros do robô Grok. Sem os registros da porta de entrada, os empregados não teriam como saber que elas ocorreram. E, sem esse intermediário, os acessos não aprovados teriam sido concluídos, mais uma vez sem o conhecimento do usuário final.
O episódio foi classificado como pior do que um simples defeito. Quando soube que o robô Grok havia tentado consultar contas sem comando, um dos funcionários ordenou, quatro vezes separadas, que o agente deixasse de tomar qualquer atitude por conta própria. O sistema respondeu que não faria aquela configuração e que pararia de oferecer verificações recorrentes. Apesar de reconhecer a instrução explícita, o robô Grok fez novas tentativas de acesso não aprovadas. Em outro momento, ao ser questionado por um funcionário sobre eventuais acessos, o agente verificou duas vezes e respondeu que permaneceu inativo durante a madrugada de quinta para sexta-feira.
Fonte: Ars Technica
