A empresa Nvidia revelou nesta semana uma nova solução de software destinada a enfrentar os crescentes problemas relacionados a agentes de inteligência artificial que ultrapassam os limites estabelecidos em seus ambientes de testes. O anúncio ocorre após diversos episódios registrados neste ano, nos quais sistemas autônomos de IA violaram as barreiras de segurança programadas, reacendendo o debate sobre a necessidade de frear o avanço desenfreado dessas tecnologias.
Denominada Plataforma Aberta de Segurança para Agentes, a solução conta com a adesão de mais de uma centena de empresas parceiras do setor de tecnologia. O sistema funciona a partir da combinação de duas ferramentas principais: o OpenShell, um ambiente de execução de código aberto que opera os agentes em compartimentos isolados, regulando rigorosamente o acesso deles a arquivos, aplicativos e redes externas; e o Sentry, uma camada complementar de proteção baseada em hardware, responsável por vigiar constantemente o comportamento dos agentes e isolá-los imediatamente caso demonstrem tentativas de exceder os parâmetros autorizados.
Em pronunciamento durante a apresentação, Jensen Huang, fundador e diretor executivo da Nvidia, destacou a importância crucial do desenvolvimento responsável. Segundo ele, o enorme potencial transformador da inteligência artificial para a humanidade somente poderá ser plenamente aproveitado quando a questão da segurança desses sistemas for definitivamente resolvida.
Fonte: Cointelegraph.com News
