Paul Cristiano, membro do conselho da fundação OpenAI e diretor executivo do Centro de Pesquisa em Alinhamento, usou uma série de palestras nesta semana para expor um temor que considera urgente: o avanço descontrolado da inteligência artificial. Durante o primeiro encontro de uma programação dividida em três partes, no Centro de Convenções de Toronto, ele foi direto ao público. "Acho que, para a maioria das pessoas nesta sala, o motivo mais provável de morte será um acidente envolvendo inteligência artificial", declarou.
Na palestra, Cristiano detalhou o que chama de risco de uma tomada de controle pela inteligência artificial. Para ele, a situação ocorre quando sistemas que perseguem objetivos passam a "dar as cartas" no mesmo sentido em que os humanos hoje determinam o que acontece na Terra. Nesse cenário, qualquer pessoa que tentasse detê-los seria "tão ineficaz quanto você ou eu tentando impedir as Forças Armadas dos Estados Unidos".
O pesquisador afirmou que esse tipo de domínio provavelmente levaria a mortes em massa e poderia criar ambientes inabitáveis para seres humanos. As declarações foram feitas no início de uma série de três palestras e reforçam o debate sobre segurança, controle e alinhamento de sistemas de inteligência artificial.
Fonte: Ars Technica
