Qumulo LogoQumulo Logo

Blog

Pare de pagar por GPUs ociosas

Como a CNQ transforma o modelo Multi-AZ, que antes era um custo adicional, em uma vantagem competitiva sem impacto nos custos

A nuvem promete recursos de computação elásticos que funcionam em qualquer lugar, em qualquer região. As cargas de trabalho de GPU, porém, silenciosamente quebraram essa promessa.

Existem GPUs na nuvem, mas será que elas estão disponíveis na mesma região ou zona em que seus dados estão armazenados? As GPUs estão disponíveis quando você precisa delas?

A demanda por computação acelerada agora supera a oferta local. Para muitas organizações, a demanda por GPUs excede a capacidade disponível em uma única Zona de Disponibilidade, ou mesmo em uma única região, resultando em atrasos críticos nas tarefas. A capacidade surge brevemente, varia de forma imprevisível e desaparece com a mesma rapidez.

Os desequilíbrios na disponibilidade de GPUs criam uma nova realidade operacional. As equipes não programam mais tarefas para as GPUs. Elas procuram GPUs onde e quando estas ficam disponíveis. À medida que a disponibilidade de recursos computacionais se torna dinâmica, a localidade dos dados passa a ser uma restrição. As GPUs finalmente aparecem, mas os dados nunca estão onde elas estão.

A maioria das organizações lida com esse problema de uma das duas maneiras a seguir, ambas onerosas.

Opção 1: Reservar e aguardar
GPUs reservadas no valor de milhões de dólares ficam ociosas, não porque o trabalho não esteja pronto, mas porque os dados não estão onde a capacidade de computação está disponível. As equipes garantem a escassa capacidade de GPU a um custo imenso e, em seguida, esperam horas ou dias até que os dados sejam copiados para a Zona de Disponibilidade “correta”. A capacidade de computação é reservada primeiro. O trabalho começa depois. Enquanto nada está em execução, o contador continua a avançar a cada segundo.

Opção 2: Copiar antecipadamente e torcer para dar certo
As equipes replicam os dados antecipadamente em várias Zonas de Disponibilidade, regiões ou até mesmo nuvens. Os dados precisam ser transferidos, armazenados e mantidos em todos os locais, o que multiplica as tarifas de rede, os custos de armazenamento e as despesas operacionais. Grande parte desses dados fica ociosa, consumindo o orçamento muito antes de qualquer GPU realizar qualquer trabalho útil.

Como resultado, toda grande implantação de GPUs na nuvem esconde uma perda silenciosa. Quer as organizações fiquem à espera de dados ou de recursos de computação, o resultado é o mesmo. A empresa gasta dinheiro antes mesmo de o trabalho começar.

Os executivos raramente percebem essa perda nos painéis de controle. Em vez disso, ela se manifesta nas faturas de serviços em nuvem, nos atrasos nos projetos, nas oportunidades perdidas e nas equipes que avançam mais lentamente do que a concorrência.

Isso não é um problema de capacidade. Trata-se de um problema arquitetônico que o Qumulo Cloud Native foi desenvolvido para resolver.

O custo oculto da busca por GPUs

Em teoria, a computação em nuvem é elástica. Na prática, a capacidade da GPU está fragmentada entre as Zonas de Disponibilidade e muda constantemente. Hoje, uma zona tem capacidade. Amanhã, é outra que a tem.

A maioria das arquiteturas de sistemas de armazenamento não consegue se adaptar a essas condições.

Os sistemas tradicionais de arquivos em nuvem ainda mantêm os dados ativos concentrados em uma única zona. Mesmo quando rotulados como “multi-AZ”, eles dependem de um local principal onde os recursos de computação devem ser executados. Existem réplicas em outros locais, mas o desempenho e, consequentemente, a execução permanecem limitados a esse local.

O resultado é previsível:

  • A disponibilidade da GPU não corresponde à localização dos dados na zona

  • Os dados devem ser copiados de forma a corresponder à disponibilidade da GPU por zona

  • As GPUs ficam ociosas enquanto centenas de terabytes são transferidos

 

Esse “imposto sobre a busca por GPUs” é, atualmente, um custo estrutural da implementação de IA, aprendizado de máquina e simulação na nuvem.

E a situação piora quando se trata de grande escala.

Quanto mais cara e escassa for a capacidade de computação, mais prejudicial se torna cada segundo de inatividade. Quando o armazenamento determina onde o trabalho pode ser realizado, a disponibilidade em toda a região passa a ser irrelevante.

A falha arquitetônica que o Multi-AZ deveria corrigir

O recurso “Multi-Availability Zone” foi projetado para atender aos requisitos de resiliência, e cumpre essa função. Mas, no caso de cargas de trabalho com GPU, a resiliência não é o problema.

O acesso é.

Se a sua arquitetura não conseguir associar recursos de computação aos dados onde quer que haja capacidade disponível, você não possui um sistema com várias zonas de disponibilidade (AZ). Você possui um sistema com uma única zona de disponibilidade (AZ) e backups.

Essa é a falha que o Qumulo Cloud Native foi projetado para eliminar.

O CNQ elimina os custos com GPUs ociosas

O Cloud Native Qumulo (CNQ) é projetado para funcionar em várias Zonas de Disponibilidade, e não por meio de duplicação.

Sem zona primária.

Sem dependência de localização dos dados: a computação se conecta aos dados instantaneamente, em qualquer lugar.

Sem fase de preparação.

Com o CNQ, os recursos de computação em várias Zonas de Disponibilidade podem acessar o mesmo conjunto de dados em tempo real simultaneamente. Outras plataformas restringem o acesso a uma Zona de Disponibilidade principal.

Com o CNQ, os dados são armazenados uma única vez, com proteção duradoura em nível regional, enquanto o desempenho é fornecido onde quer que haja GPUs disponíveis.

Quando a capacidade muda:

  • Nada se move

  • Nada reconstrói

  • Nada espera

 

As equipes simplesmente operam onde há GPUs disponíveis no momento. O trabalho começa imediatamente. Sem tempo ocioso.

Em vez de copiar petabytes com antecedência por precaução, a CNQ transmite dados sob demanda. Apenas os dados que são efetivamente acessados trafegam pela rede. O restante permanece intacto. As GPUs acessam os dados instantaneamente, independentemente da zona.

A busca por GPUs deixa de ser um exercício de logística e passa a ser uma decisão de programação.

A implantação em várias zonas (Multi-AZ) sem impacto nos custos é o grande avanço

A maioria dos sistemas de armazenamento multi-AZ acarreta custos reais em troca de resiliência. Se você ativar outra Zona de Disponibilidade, os custos de armazenamento aumentam, pois os dados são totalmente replicados e armazenados nessa nova zona. Esse processo se repete para cada nova Zona de Disponibilidade. O recurso multi-AZ acaba se tornando algo que as organizações ativam com relutância, reservado para cenários de falha, e não para operações cotidianas.

O CNQ funciona de maneira diferente. O CNQ transfere a responsabilidade pela disponibilidade e durabilidade para o Amazon S3, que oferece proteção regional por padrão. Como resultado, o conjunto de dados existe uma única vez no nível regional, e não uma vez por Zona de Disponibilidade. Você não paga por várias cópias completas dos mesmos dados simplesmente para torná-los acessíveis entre zonas. O custo de armazenamento permanece efetivamente estável, independentemente de você usar uma ou várias Zonas de Disponibilidade.

Isso não é um truque de otimização. É uma decisão arquitetônica fundamental.

Com a CNQ, há:

  • Não há aumento de custo para múltiplas cópias de dados armazenados em múltiplas Zonas de Disponibilidade

  • Sem perda de desempenho no acesso a várias zonas (AZ)

  • A resiliência não tem custo ocioso

 

Por uma questão de transparência, o CNQ pode incorrer em pequenas taxas de rede entre Zonas de Disponibilidade quando os dados são gravados ativamente. No entanto, para a grande maioria das cargas de trabalho de IA, ML e análise de dados, os padrões de acesso são predominantemente voltados para a leitura. Na prática, essa sobrecarga permanece mínima e ocorre apenas enquanto o trabalho está em execução, não enquanto os dados permanecem inativos. Como sempre, é recomendável analisar sua carga de trabalho específica com um engenheiro de soluções.

Observação: A Qumulo oferece sessões gratuitas de análise de arquitetura e planejamento de soluções.

Quando as equipes implantam o CNQ para monitorar a disponibilidade das GPUs nas Zonas de Disponibilidade, elas obtêm automaticamente disponibilidade e durabilidade em várias Zonas de Disponibilidade (multi-AZ) para o sistema de armazenamento. O que geralmente é tratado como um recurso de segurança torna-se um benefício integrado. A disponibilidade em múltiplas Zonas de Disponibilidade (multi-AZ) não é mais um custo adicional justificado apenas como precaução. É um recurso essencial que permite que as tarefas sejam executadas onde quer que haja GPUs disponíveis, sem multiplicar os custos de armazenamento.

Por que isso muda a economia das GPUs

Assim que você provisiona uma GPU, são cobrados custos por cada segundo de operação. Os segundos em que a GPU fica ociosa representam um desperdício de dinheiro. Cada atraso se acumula entre as equipes e os projetos.

Quando há escassez de GPUs, as equipes enfrentam um dilema constante: ou arcar com custos de computação enquanto aguardam os dados, ou pagar por capacidade de armazenamento e de rede enquanto aguardam a computação. Muitas vezes, acabam pagando pelos dois. Em todos os casos, você paga o “imposto da busca por GPUs”.

Ao remover totalmente a ancoragem por zona, o CNQ elimina ambas as desvantagens. A capacidade regional da GPU passa a ser capacidade utilizável. Os clientes não pagam mais para esperar pelos dados nem para manter cópias ociosas deles. Eles pagam apenas quando a GPU realiza trabalho.

A vantagem mais significativa é a opcionalidade.

Com a CNQ:

  • As equipes não precisam prever com semanas de antecedência onde as GPUs estarão disponíveis

  • O armazenamento não os obriga mais a tomar decisões antecipadas sobre as instâncias

  • Novas famílias de instâncias podem ser adotadas sem migração ou tempo de inatividade

À medida que a capacidade, os preços e o desempenho mudam, a infraestrutura se adapta automaticamente.

Agora, a promessa de recursos em escala de nuvem se tornou realidade. Computação elástica e independente de localização, que se adapta em tempo real, dissociada das decisões de posicionamento da infraestrutura e livre para ser executada onde quer que haja capacidade disponível.

Da arquitetura defensiva à vantagem competitiva

Seria correto dizer que o CNQ torna a aquisição de GPUs menos complicada.

Mas isso subestima o impacto.

O que o CNQ realmente elimina é a “gravidade arquitetônica”. O armazenamento não determina mais onde o trabalho pode ser realizado. A computação não fica mais presa às decisões de posicionamento do passado. As equipes se movimentam quando surge uma oportunidade, e não quando a infraestrutura permite.

Nesse ponto, a Multi-Availability Zone já não se resume a lidar com falhas. Trata-se de agir mais rapidamente do que os concorrentes, iniciar o trabalho imediatamente assim que a capacidade estiver disponível e transformar o tempo de inatividade das GPUs em resultados concretos.

Isso não é seguro.

Isso é uma vantagem.