O mercado de GPUs enfrenta uma crise de custos. Preços de hardware e aluguel seguem em elevação constante, termos mínimos de contrato triplicaram e a capacidade disponível no curto prazo torna-se cada vez mais escassa. Nesse cenário, a Shadeform — plataforma de mercado para computação em nuvem com GPUs — anunciou o lançamento do Spot, uma solução que permite a provedores lucrarem com capacidade que, de outra forma, permaneceria completamente parada.
O funcionamento é direto: após o cadastro de um nó via script único, que utiliza a tecnologia Flex VMs da empresa para converter servidores físicos com GPUs em máquinas virtuais de locatário único, o equipamento pode ser revendido no marketplace da Shadeform com desconto sempre que não estiver em uso. Quando o provedor precisar do recurso novamente, ele é automaticamente devolvido. A empresa calcula que essa monetização do tempo ocioso pode reduzir o valor total dos contratos de infraestrutura própria em aproximadamente 29 por cento.
Para quem busca acesso a GPUs, o Spot oferece instâncias dedicadas a preços inferiores aos cobrados por demanda convencional. A contrapartida é a possibilidade de preempção: o serviço é voltado para cargas de trabalho tolerantes a interrupções, como treinamentos com checkpoint, inferência em lote, renderização e experimentação em larga escala. Usuários podem selecionar o Spot pelo console da Shadeform ou por meio da interface de programação e linha de comando, recebendo notificação prévia antes da recuperação do recurso.
Os valores são estabelecidos por tipo de instância e provedor, garantindo desconto relevante frente às taxas sobressalentes habituais da plataforma. A capacidade disponível no Spot deve aumentar à medida que novos provedores cadastrarem seus equipamentos.
— Cada hora que uma GPU permanece ociosa representa receita desperdiçada, e com os custos em elevação, os provedores não podem mais se dar ao luxo de deixá-la parada — declarou Jeff Jewett, diretor de operações da Shadeform. — O Spot coloca essa capacidade para trabalhar e oferece aos desenvolvedores uma nova forma de executar cargas de trabalho que suportam interrupções.
Fonte: DCD