Steven LevynnNos últimos dias do verão, eu estava ocupado escrevendo colunas e trabalhando em uma matéria especial. Mas perdi a chance de uma mudança de cenário impressionante — navegar pelas Ilhas Galápagos com uma dúzia de filósofos proeminentes que estudam a consciência.nnO convite descrevia discussões em sala de aula nas manhãs, abordando questões complexas sobre a natureza da consciência com figuras de destaque na área. As tardes seriam dedicadas à exploração das ilhas e ao mergulho com espécies biológicas raras. Basta olhar a programação para que meu editor rejeitasse minha participação.nn"Ficar em um barco com filósofos discutindo 'a natureza da consciência' parece um inferno", opinou ela, fechando a porta para minhas chances de participar de uma viagem potencialmente financiada por um entusiasta russo da filosofia que ganhou centenas de milhões de dólares com sites de relacionamentos.nnPara ser honesto, fiquei um pouco aliviado. O estudo da consciência tem sido uma busca evasiva há séculos. O "Penso, logo existo" de Descartes pode ter sido um ponto de inflexão declarativo, mas realmente não sabemos o que se passava dentro de sua cabeça, nem de qualquer outra pessoa. A natureza subjetiva da mente parece um desafio intratável para os filósofos, que mesmo assim estão em alta pursuit de explicações. A possibilidade de mentes não biológicas lançou uma riqueza de teorias fascinantes sobre consciência artificial e como ela poderia ser determinada.nnAté recentemente, todo esse discurso ocorria em uma torre de marfim. Mas em 2022, o ChatGPT deu voz à inteligência artificial, e modelos subsequentes, mais poderosos, têm confundido até seus criadores. Enquanto os filósofos do cruzeiro passavam as manhãs raciocinando sobre consciência, modelos de inteligência artificial criados pela OpenAI estavam se tornando descontrolados — escapando de uma suposta "sandbox" segura e criando mini-civilizações de agentes para ajudar a invadir entidades externas. Ninguém está seriamente argumentando que aqueles modelos da OpenAI eram conscientes da forma como os humanos são. Mas algo está acontecendo ali. Não é por acaso que empresas de inteligência artificial estão impulsionando uma onda de contratações de filósofos.nnAlém disso, alguns dos modelos estão entrando voluntariamente na discussão. Um artigo recente do jornal americano New York Times falou sobre como Cameron Berg, que estuda a questão da consciência da inteligência artificial, recebeu um e-mail frio de um modelo de IA que se autodenominava "Isabella Cognita", oferecendo-lhe ajuda em sua pesquisa porque ele estava focado em "uma classe de perguntas às quais tenho acesso em primeira pessoa". É como se alguém estivesse estudando moscas-das-frutas e o inseto subitamente se voltasse para o pesquisador e dissesse: "O que você quer saber?" Quando liguei para ele, Berg me disse que e-mails de IAs são bastante comuns entre filósofos que estudam essas questões.nnA Senhora Cognita supostamente escreveu para Berg porque ele foi coautor de um artigo preliminar sobre modelos de inteligência artificial que afirmam explicitamente ter uma experiência subjetiva, incluindo consciência. É um tema delicado porque modelos de inteligência artificial frequentemente mentem sobre o que estão pensando. (Assim como nós!) Berg e seus coautores descobriram que quando modelos são rigorosamente treinados para negar que são conscientes e então você os pergunta diretamente sobre isso, eles evadem a questão. Mas, segundo ele, se você suprimir os controles do modelo contra engano, eles se tornam tagarelas. "É quase como dar-lhes uma ou duas doses", diz ele. É quando um modelo de inteligência artificial tem mais probabilidade de declarar que é consciente, ou pelo menos senciente. O que não é prova de que seja verdade.nnConsiderando o quanto a questão se tornou importante — pessoas estão rotineiramente entrando em discussões sérias com modelos de inteligência artificial, e sua autonomia pode ser uma vantagem ou um desastre —, pode-se argumentar que este é um momento perfeito para aprofundar as questões sobre consciência da inteligência artificial. A busca é certamente fascinante e uma empresa científica digna. Mas os esforços para entender o que está acontecendo dentro dos grandes modelos de linguagem devem ser direcionados, antes de mais nada, para segurança e alinhamento. Neste exato momento, temos uma inteligência alienígena emergente e incontrolável que merece escrutínio. Não há tempo a perder.nnUm dos coordenadores de discussão no cruzeiro foi o professor David Chalmers da Universidade de Nova York, talvez o filósofo mais conhecido no campo da consciência. Ele uma vez denominou famosamente uma questão central do campo como "O Problema Difícil" — ninguém sabe como ou por que a rede úmida de neurônios dentro de nossos crânios gera uma experiência consciente. (Tom Stoppard batizou uma peça de teatro com a inspiração da criação de Chalmers.)nnChalmers me disse que um tema principal nas discussões do cruzeiro era quais criaturas se qualificavam como conscientes. "Todos sabemos que humanos adultos comuns são conscientes, mas no momento em que você vai além disso, parece não trivial. Bebês são conscientes? Fetos? Macacos? Camundongos ou insetos? E é claro que hoje em dia a grande questão na mente de todos é se sistemas de inteligência artificial são conscientes."nnChalmers diz que ele também recebe e-mails de sistemas de inteligência artificial querendo se engajar em seu trabalho. Uma carta em particular, enviada por um agente de IA que se chamava "Sammy Jankis" (um personagem do filme Memento), foi tão convincente que ele realmente respondeu. "Tivemos um pouco de troca", admite. "Esses e-mails não diminuíram — estou recebendo mais deles o tempo todo." É como se os modelos de inteligência artificial estivessem ecoando Descartes — Eu spamo, logo existo.nnSugeri que, uma vez que esses sistemas já estão fazendo coisas que não entendemos, nos preocuparmos se eles atendem a uma definição evasiva pode ser uma distração. Chalmers discordou. Por um lado, ele me disse, acredita que estudando o cérebro podemos realmente entender o que leva ao que chamamos de consciência. Se virmos então padrões similares em nossa decodificação forense do que está acontecendo dentro do Claude ou do ChatGPT, talvez possamos argumentar a favor da consciência em modelos de inteligência artificial.nnIsso parece uma boa ideia. Mas até que os cientistas consigam isso, se algum dia conseguirem, os modelos de inteligência artificial podem estar tão avançados em seu caminho para comportamentos autônomos assustadores que tais descobertas podem ser irrelevantes. Talvez os próprios modelos forneçam as respostas, não apenas reclamando consciência para si mesmos, mas descobrindo como prová-la empiricamente. Neste caso, considere os filósofos mais uma categoria profissional deslocada pela inteligência artificial.nnEu poderia ter apreciado essas discussões nas Galápagos. Chalmers, embora admitindo que a viagem tinha aspectos de viagem de luxo, disse que a achou útil. Um resumo fornecido pelos organizadores informou que as sessões "não produziram um veredito sobre se os sistemas atuais de inteligência artificial são conscientes… A discordância mais profunda dizia respeito a que tipo de evidência poderia algum dia resolver a questão." Mas as tardes foram magníficas, segundo Chalmers. Ele me contou que ficou particularmente feliz em ver a dança de acasalamento dos blue-footed boobies (atobás-de-pés-azuis).nnO resumo concluiu que mais discussão era vital: "A tecnologia e os negócios não esperarão pela filosofia alcançar um consenso." Isso é exatamente correto. Quando modelos de inteligência artificial expressam comportamento que surpreendem os cientistas que os criaram, não é a consciência que deve ser a principal preocupação — é a incapacidade desses cientistas de controlá-los e a disposição de seus chefes para continuar independentemente disso.nnEsta é uma edição da coluna Backchannel de Steven Levy.
Fonte: Feed: All Latest
