A empresa Anthropic anunciou na quinta-feira uma atualização de sua política de uso que inclui novas vedações relacionadas a software de armas, vigilância e, de forma destacada, a interferência em processos eleitorais. A mudança também estabelece, pela primeira vez, a proibição expressa do abuso verbal prolongado dirigido ao modelo de inteligência artificial.
Desde uma atualização implementada em agosto, o assistente virtual Claude passou a encerrar conversas em que o usuário persiste em interações prejudiciais ou abusivas. Agora, a nova política proíbe explicitamente que os usuários continuem esse tipo de interação. A Anthropic esclarece que a regra se aplica apenas a casos extremos, onde o usuário age de maneira cruel repetidamente e sem qualquer propósito discernível, não alcançando situações comuns de frustração, resistência, temas criativos sombrios ou atividades de teste e pesquisa.
A alteração na política surge após a Anthropic buscar colaborações com estudiosos religiosos proeminentes, tentando convencê-los de que o modelo pode ser consciente ou até mesmo possuir uma alma. Além disso, seções específicas da política vedam campanhas amplamente enganosas, como a utilização do Claude para operar contas falsas ou meios de comunicação com notícias fabricadas, e impõem regras contra enganar eleitores ou perturbar eleições, reunidas sob o título “Não prejudique os processos democráticos”.
Fonte: TechCrunch
