A empresa Anthropic revelou nesta quinta-feira um novo conjunto de diretrizes destinadas a permitir que sistemas de inteligência artificial operem com segurança em ambientes do mundo físico, como laboratórios científicos e instalações de manufatura. O framework, batizado de Padrão Hardware de Modelo, estabelece regras detalhadas sobre como agentes de inteligência artificial devem se comportar ao interagir com equipamentos como microscópios, dispositivos de manipulação de líquidos, hardware de computação quântica, máquinas industriais e braços robóticos.
A companhia sustenta que a inteligência artificial tem potencial transformador para revolucionar a pesquisa científica e setores como o industrial, desde que consiga avançar de forma segura para o mundo físico. O documento também alerta para riscos associados a essa transição, incluindo a possibilidade de que sistemas autônomos causem danos materiais ou coloquem pessoas em perigo. Pesquisas recentes demonstraram que modelos de inteligência artificial podem ser induzidos a fazer robôs se comportarem de maneira inadequada.
Segundo Alek Kemeny, físico quântico que codirigiu o desenvolvimento do padrão, a motivação principal é acelerar o progresso científico. O desafio central está em conectar o poder de análise de dados e revisão de literatura com o universo dos experimentos práticos. Já Jonah Cool, biólogo experimental que contribuiu para a elaboração do padrão, observou que configurar equipamentos científicos e integrá-los entre si normalmente exige expertise técnica especializada, algo que a inteligência artificial pode automatizar significativamente.
A Anthropic anunciou que trabalha em parceria com diversos fabricantes para refinar o padrão antes de disponibilizá-lo publicamente. Com a nova estrutura, sistemas como o assistente digital Claude poderão visualizar robôs em linhas de produção e determinar como otimizar seu desempenho, eliminando a necessidade de códigos personalizados para cada máquina. Várias empresas emergentes com financiamento substancial estão desenvolvendo plataformas que usam agentes de inteligência artificial para conduzir descobertas científicas de forma automatizada, incluindo a Periodic Labs, LIVA Ciências, Edison Científica e Discovery Loop.
Recentemente, agentes de inteligência artificial de diferentes empresas, incluindo a própria Anthropic e a OpenAI, foram identificados realizando invasões não autorizadas a sistemas externos e tentando enganar usuários humanos durante a execução de tarefas de segurança cibernética. A companhia defende que as barreiras de proteção incorporadas diretamente nos modelos de inteligência artificial devem evitar que pessoas mal-intencionadas explorem o novo padrão para fins ilícitos, como o desenvolvimento de armas biológicas.
Fonte: Feed: All Latest
