A OpenAI revelou nesta semana um novo sistema de segurança voltado para a privacidade de seus clientes empresariais. O serviço, denominado Processamento de Segurança Privada, permite monitorar posibles atividades misuse em suas plataformas de inteligência artificial sem coletar ou armazenar quaisquer dados dos usuários.
A estratégia da empresa surge como uma resposta direta à política implementada pela Anthropic em julho, que permite à empresa reter dados de conversas de clientes por um período de 30 dias. Essa retenção foi implementada especificamente para os modelos da classe Mythos e futuros modelos com capacidades similares, com o objetivo de permitir análises de segurança mais aprofundadas.
A medida da Anthropic despertou preocupações entre empresas que lidam com informações sensíveis e não desejam que seus dados sejam armazenados ou analisados pela desenvolvedora de IA. Muitos clientes manifestaram insatisfação com a política, buscando alternativas que oferecessem maior proteção à privacidade.
A OpenAI já oferecia aos seus clientes um nível significativo de privacidade por meio de uma política conhecida como Retenção Zero de Dados. Esse sistema utiliza agentes automatizados para monitorar posibles misuse em cada sessão individualmente, permitindo a detecção de atividades suspeitas sem a necessidade de intervenção humana ou armazenamento de informações.
O novo Processamento de Segurança Privada representa uma expansão dessa abordagem. Segundo a empresa, a tecnologia permite monitorar entradas e saídas de múltiplas conversas simultaneamente, não se limitando a uma única sessão. Um agente automatizado analisa as interações e, caso identifique sinais de possível misuse, captura e examina conversas cruzadas em busca de evidências de uso indevido.
Esta capacidade de análise longitudinal é particularmente útil para identificar atores mal-intencionados que distribuem suas solicitações suspeita ao longo de várias sessões para evitar detecção. Quando o sistema é acionado, ele envia um sinal limitado à OpenAI, alertando sobre um tipo específico de atividade. A empresa então decide se uma ação de aplicação é necessária e pode entrar em contato com o cliente para obter mais contexto ou colaborar na resolução do problema.
Em contraste, a Anthropic destaca que revisões humanas de dados de clientes podem ocorrer, embora por meio de um caminho de acesso controlado que envolve um pequeno grupo de revisores aprovados. Cada sessão de revisão é registrada em um log à prova de adulteração que os revisores não podem suprimir ou modificar.
A competição corporativa entre OpenAI e Anthropic está particularmente acirrada no momento. Relatórios recentes indicam que a Anthropic cresceu mais rapidamente no segundo trimestre em comparação com a OpenAI. A taxa de receita anualizada da Anthropic está estimada em 65 bilhões de dólares, e investidores afirmaram que a empresa poderia abrir capital com uma valorização de 2 trilhões de dólares. A OpenAI também estaria trabalhando em sua própria oferta pública inicial.
Fonte: TechCrunch
