O Google e pesquisadores do Google DeepMind divulgaram nesta quarta-feira a criação do Instituto DeepMind, uma iniciativa voltada para avançar as discussões em torno da inteligência artificial geral. O novo órgão conta com a liderança de Shane Legg, co-fundador da DeepMind, James Manyika, executivo do Google, e Demis Hassabis, presidente da Google DeepMind, tendo Legg como editor-chefe.
A instituição foi idealizada com o objetivo de expor diferentes perspectivas entre o Google, a DeepMind e a comunidade científica global que estuda o tema. Segundo comunicado oficial, os diretores podem divergir entre si e certamente alterarão suas posições conforme novas evidências e dados forem surgindo nesse campo em rápida evolução.
A primeira coleção de textos conta com quatro ensaios que abordam temas variados: políticas econômicas para lidar com possíveis upheavals causados pela inteligência artificial geral, a preservação da capacidade de compreender o raciocínio dos modelos computacionais, princípios para o florescimento humano e um sistema de avaliação para modelos de inteligência artificial de última geração.
Um dos ensaios, elaborado pelos pesquisadores de segurança da DeepMind Rohin Shah e Anca Dragan, sustenta que a perda crescente de transparência nos sistemas de inteligência artificial não é uma fatalidade. Os autores alertam que, à medida que novas arquiteturas tornam os modelos mais poderosos cada vez mais difíceis de serem monitorados, desenvolvedores e reguladores precisam enfrentar diretamente os compromissos entre segurança e desempenho. A sugestão inclui limitar a chamada profundidade serial opaca, ou seja, a quantidade de cálculos sequenciais que um modelo pode realizar sem gerar um rastreamento legível de seu raciocínio, ou ainda exigir que os criadores comprovem que sistemas menos transparentes mantêm a mesma capacidade de supervisão.
Em outro ensaio, Hassabis propõe a formação de um órgão internacional liderado pelos Estados Unidos para estabelecer padrões e avaliar os modelos de inteligência artificial mais avançados. Conforme seu modelo, desenvolvedores submeteriam seus sistemas voluntariamente para análise até trinta dias antes do lançamento. Após demonstrar eficácia, os testes poderiam se tornar obrigatórios para a implementação de modelos de última geração no território americano. Inicialmente, o órgão elaboraria avaliações em conjunto com as empresas de inteligência artificial, mas posteriormente desenvolveria testes independentes e sigilosos, chamados de avaliações retidas, para evitar que laboratórios ajustem seus modelos especificamente para passar nas provas.
Hassabis ainda afirmou que o sistema poderia ser intensificado conforme a gravidade da situação exigir, incluindo a possibilidade de uma desaceleração coordenada entre os desenvolvedores de inteligência artificial de ponta.
Os ensaios surgem em um momento em que o debate sobre segurança no setor transita de declarações gerais de preocupação para propostas concretas de transparência, fiscalização externa e, caso as salvaguardas não acompanhem o ritmo dos avanços, desacelerações coordenadas. Essa mudança ganhou força esta semana quando líderes do setor apoiaram elementos do apelo de Dario Amodei, executivo-chefe da Anthropic, por um ritmo mais moderado no desenvolvimento da inteligência artificial de fronteira.
Fonte: TechCrunch
