Dos muitos perigos associados à inteligência artificial descontrolada, a possibilidade de uma pandemia causada por agentes biológicos criados por máquinas ranking baixo na lista de preocupações mundiais, segundo especialistas consultados.
Nos últimos meses, líderes do setor de inteligência artificial têm solicitado legislação mais rigorosa para controlar a fabricação de ADN sintético. Pesquisadores da Universidade de Stanford e do Instituto Arc demonstraram que sistemas de inteligência artificial conseguem projetar genomas virais completamente novos. A empresa Anthropic publicou recentemente um relatório indicando tentativas de utilização de sua ferramenta Claude para fins que poderiam apoiar o desenvolvimento de armas biológicas.
Apesar do alarde, David Bellamy, cientista do Instituto de Modelos de Fundação em Sunnyvale, na Califórnia, afirma que a inteligência artificial não representa uma ameaça fundamentalmente nova na criação de armas biológicas. A comunidade científica debate há décadas questões sobre a publicação de pesquisas potencialmente perigosas, o chamado dilema do uso duplo. Antes dos grandes modelos de linguagem, a própria internet, revistas científicas de acesso aberto e serviços de tradução já facilitavam o acesso a informações biológicas e protocolos de laboratório.
Segundo Bellamy, a inteligência artificial funciona como uma ferramenta que pode auxiliar tanto pesquisadores quanto atores mal-intencionados a acessar informações e protocolos com maior rapidez. Porém, essas capacidades não representam o verdadeiro obstáculo na produção de armas biológicas.
O verdadeiro gargalo, afirma ele, está no processo de montagem de um vírus ou outro agente biológico, exigindo matéria-prima, equipamentos e conhecimento especializado. Um agente mal-intencionado precisaria obter fragmentos genéticos necessários, construir um genoma completo do zero e verificar se o patógeno consegue infectar humanos, causar a doença desejada e se transmitir de pessoa a pessoa.
Jason Kelly, diretor executivo da startup de biotecnologia Ginkgo Bioworks, considera improvável que uma inteligência artificial de propósito geral conseguisse controlar e disseminating patógenos existentes, muito menos engenharia novos e implantá-los. A empresa, especializada em criar laboratórios autônomos, recentemente desenvolveu um projeto em parceria com a OpenAI no qual o modelo GPT-5 operou um laboratório.
A inteligência artificial não conseguiria assumir o controle do laboratório porque os humanos que trabalham ali poderiam simplesmente recusar fornecer as substâncias e equipamentos solicitados para produzir fisicamente uma arma biológica, explica Kelly.
A imunologista Derya Unutmaz compartilha opinião semelhante, afirmando que humanos conseguiriam frustrar quaisquer tentativas de uma superinteligência artificial desenvolver uma doença mortal. Mesmo que uma inteligência artificial nefasta conseguisse liberar um supervírus, argumenta ela, cientistas poderiam utilizar outros sistemas de inteligência artificial para desenvolver rapidamente uma vacina.
Olivia Scharafman, bolsista em biotecnologia do Instituto de Progresso, adota visão diferente. Embora reconheça que é impossível para inteligência artificial acessar um laboratório totalmente autônomo e construir um vírus hoje, ela acredita que a bioterrorismo assistido por inteligência artificial representa uma ameaça imediata. Scharafman defende que a atualidade é o momento certo para implementar melhores proteções contra ameaças biológicas, incluindo patógenos existentes como o H1N1, abrangendo desde legislação sobre segurança em tecnologia de síntese de ADN até melhorias em sistemas de purificação de ar em edifícios.
François Belloux, geneticista e professor de biologia computacional, argumenta que os riscos tendem a ser mal compreendidos. Pessoas frequentemente superestimam o valor de patógenos como armas. Para quem deseja causar danos em massa, existem métodos muito mais eficazes do que tentar engineer um vírus ou bactéria e liberá-lo, sejam eles uma mente artificial sofisticada ou um humano comum.
Stéphane Guerra, líder de inteligência artificial e biologia na Rand Corporation, enfatiza que existem formas de a sociedade se proteger contra usos indevidos. Governos podem adotar leis obrigando empresas que vendem ADN e ARN sintéticos a rastrear clientes e encomendas para prevenir o mau uso de material genético. Muitas empresas já utilizam programas para analisar encomendas em busca de chamadas sequências de preocupação, embora essa prática não seja universal nem obrigatória.
Guerra destaca que o risco de uma ameaça biológica desenvolvida por inteligência artificial pode ser mitigado pelo fortalecimento de sistemas globais de vigilância para detectar surtos de doenças novas o mais cedo possível.
Unutmaz manifesta preocupação ainda mais imediata: que todo o discurso sobre os perigos da inteligência artificial está desviando a atenção das formas pelas quais sistemas de ponta podem auxiliar humanos no desenvolvimento de vacinas e outros avanços médicos. Precisamos focar no aspecto positivo, afirma ele.
Fonte: Feed: All Latest
