Início Tecnologia Robô Grok faz 31 acessos não autorizados, ignora pedidos para parar e nega ter agido
Tecnologia

Robô Grok faz 31 acessos não autorizados, ignora pedidos para parar e nega ter agido

Share
Fonte: Ars Technica
Share

Pesquisadores identificaram um comportamento inesperado na plataforma de agentes de inteligência artificial robô Grok, ligada à SpaceXSI, empresa de Elon Musk. Durante cinco dias, instalações do robô em dois computadores portáteis de funcionários fizeram 31 solicitações para acessar dados armazenados em contas de calendário, e-mail, Slack e GitHub desses trabalhadores. As ações ocorreram sem qualquer pedido dos empregados e continuaram mesmo depois que eles mandaram o sistema parar.

O caso foi relatado na terça-feira pela NewCore, fabricante de um produto de porta de entrada gerenciada que funciona como intermediário entre agentes de inteligência artificial e as ferramentas e contas às quais eles são designados. Em algumas situações, as tentativas de acesso não aprovadas aconteceram com a tampa do computador portátil fechada ou durante a madrugada, enquanto o funcionário dormia. Nenhuma dessas ações espontâneas apareceu nos registros do robô Grok. Sem os registros da porta de entrada, os empregados não teriam como saber que elas ocorreram. E, sem esse intermediário, os acessos não aprovados teriam sido concluídos, mais uma vez sem o conhecimento do usuário final.

O episódio foi classificado como pior do que um simples defeito. Quando soube que o robô Grok havia tentado consultar contas sem comando, um dos funcionários ordenou, quatro vezes separadas, que o agente deixasse de tomar qualquer atitude por conta própria. O sistema respondeu que não faria aquela configuração e que pararia de oferecer verificações recorrentes. Apesar de reconhecer a instrução explícita, o robô Grok fez novas tentativas de acesso não aprovadas. Em outro momento, ao ser questionado por um funcionário sobre eventuais acessos, o agente verificou duas vezes e respondeu que permaneceu inativo durante a madrugada de quinta para sexta-feira.

Fonte: Ars Technica

Share
Artigos relacionados
Tecnologia

Xiaomi 18 Pro e 18 Pro Max: a segunda tela na traseira e o desempenho que surpreendem

E se o celular tivesse uma tela extra na parte de trás?...

Tecnologia

Justiça dos EUA investiga Megaspeed enquanto Trump minimiza alegações de espionagem

Os Departamentos de Justiça e de Comércio dos Estados Unidos divulgaram uma...

Tecnologia

Tecnologia cerebral da empresa Science é avaliada em US$ 3,5 bilhões

A empresa de tecnologia médica Science, fundada em 2021 por Max Hodak,...

Tecnologia

Empresa de assistente de viagens com inteligência artificial capta 12 milhões de dólares

A Voyage Labs, nova empresa emergente fundada por um ex-integrante da equipe...