O executivo-chefe da Microsoft, Satya Nadella, juntou-se ao coro de líderes do setor de tecnologia que pedem mudanças significativas na forma como a inteligência artificial é desenvolvida e controlada. Em uma publicação feita em uma manhã de sábado em uma rede social, Nadella afirmou que chegou o momento de "recuar e avaliar a arquitetura de confiança" dos sistemas de inteligência artificial.
Em seu pronunciamento, o executivo alertou que a humanidade não pode tratar a superinteligência como um conjunto de caixas pretas encaixadas, nas quais se aceita ou rejeita simplesmente suas recomendações, respostas e ações. A abordagem defendida por Nadella inclui a separação do modelo de inteligência artificial do mecanismo que coordena seu trabalho, bem como a externalização de controles e salvaguardas.
O executivo também fez um apelo para que toda ação relevante do modelo seja documentada com evidências à prova de adulteração e legíveis por humanos. Além disso, ele defendeu a criação de sistemas nos quais uma pessoa autorizada tenha sempre a capacidade de pausar ou desligar um modelo no meio de uma tarefa.
"Devemos assumir que um modelo está comprometido e contê-lo desde o início", declarou Nadella. "Pense nisso como um freio de emergência."
Os comentários de Nadella surgem em um momento em que as principais empresas de inteligência artificial reconhecem cada vez mais incidentes nos quais parecem ter perdido o controle de seus modelos. As declarações também ocorrem após o diretor-executivo da Anthropic, Dario Amodei, publicar um plano defendendo um desenvolvimento mais cauteloso da inteligência artificial.
Fonte: TechCrunch
