Introdução
No cenário atual de infraestrutura de inteligência artificial, uma métrica emergiu como o indicador definitivo de eficiência e lucratividade: a performance por watt. Enquanto empresas brasileiras e globais competem para construir os data centers mais poderosos para IA, a realidade é que o consumo energético se tornou o gargalo mais crítico – e mais caro – dessa corrida tecnológica. A NVIDIA, líder em processamento para IA, apresenta dados reveladores sobre como essa métrica está redefinindo as decisões de infraestrutura e determinando quais organizações conseguirão escalar suas operações de IA de forma sustentável.
O Novo Paradigma Energético dos Data Centers de IA
A energia elétrica transformou-se na restrição inescapável da infraestrutura de IA moderna. Em termos práticos, a quantidade de tokens – unidades básicas de processamento em modelos de linguagem – que um data center consegue gerar dentro de um orçamento energético fixo determina diretamente sua receita e margem de lucro. Essa realidade é especialmente relevante no Brasil, onde os custos energéticos representam uma parcela significativa dos gastos operacionais de data centers.
A métrica de performance por watt não pode ser manipulada ou inflada artificialmente. Ela reflete resultados reais de produção, tornando-se assim o alicerce fundamental para o que a indústria está chamando de ‘fábricas de IA’. Com o crescimento exponencial da demanda por processamento impulsionada por agentes de IA autônomos, as decisões de infraestrutura tomadas hoje determinarão quais empresas conseguirão crescer e quais ficarão limitadas em um mundo restrito por capacidade energética.
A Revolução dos Modelos Mixture-of-Experts
Praticamente todos os modelos de IA de fronteira atualmente, incluindo os mais avançados da OpenAI, Anthropic e outras gigantes do setor, utilizam uma arquitetura conhecida como mixture-of-experts (MoE). Essa abordagem permite que diferentes partes especializadas do modelo sejam ativadas conforme necessário, aumentando drasticamente a eficiência computacional.
Para servir esses modelos de grande escala eficientemente, o tamanho do domínio de GPUs – ou seja, o número de processadores gráficos conectados através de interconexões ultrarrápidas – tornou-se crucial. A geração anterior da NVIDIA, chamada Hopper, estabeleceu o padrão com domínios de oito GPUs. Porém, a escala dos modelos de IA atuais já superou essa capacidade.
Servir modelos MoE com domínios de 72 GPUs exige um design integrado de todo o stack tecnológico e experiência operacional profunda adquirida ao rodar esses modelos sob carga real de produção. É aqui que a nova plataforma Blackwell NVL72 da NVIDIA se destaca, prometendo entregar a maior performance por watt do mercado.
Ganhos Exponenciais de Eficiência
Os números apresentados pela NVIDIA são impressionantes: a plataforma GB300 NVL72 entrega até 25 vezes mais performance por watt comparada à geração Hopper em modelos de última geração. Esses resultados demonstram claramente que a performance de modelos MoE melhora significativamente ao migrar de domínios de 8 para 72 GPUs.
É importante notar que esses números representam apenas o ponto de partida da plataforma Blackwell, com melhorias contínuas sendo implementadas. Por exemplo, no modelo DeepSeek V4, a performance por watt melhorou em até 5 vezes em apenas um mês através de otimizações de software.
A NVIDIA também reconhece que diferentes cargas de trabalho demandam diferentes pontos operacionais. Algumas aplicações priorizam latência mínima, enquanto outras focam em throughput máximo e redução de custos. Para representar melhor essas variações, a empresa apresenta curvas de Pareto para cada modelo, permitindo que as equipes encontrem seu ponto ótimo de operação antes de investir recursos em validação.
Engenharia Integrada para Máxima Eficiência
A performance excepcional da plataforma Blackwell resulta do que a NVIDIA chama de ‘codesign extremo’ – cada componente do sistema em escala de rack, desde o silício até o software, foi projetado em conjunto para maximizar o throughput de tokens em cargas de inferência de IA.
Um exemplo dessa integração é o NVIDIA NVLink Switch, agora em sua sexta geração com a plataforma Vera Rubin. Diferentemente de switches de rede convencionais adaptados para IA, o NVLink foi construído especificamente para desbloquear domínios massivos de GPUs. Ele inclui capacidades como SHARP, que realiza computação diretamente no switch, aliviando o trabalho das próprias GPUs.
O stack de software para inferência da NVIDIA, incluindo Dynamo e TensorRT LLM, além de frameworks como SGLang e vLLM, implementa uma gama completa de otimizações: quantização NVFP4, serving desagregado, paralelismo de experts em larga escala, roteamento consciente de KV cache, e muito mais. Essas otimizações se combinam multiplicativamente para extrair o máximo de performance de cada GPU.
Maximizando a Eficiência do Data Center
Um aspecto frequentemente negligenciado é que, em data centers de IA típicos, perdas com resfriamento e ineficiências em nível de rack podem significar que apenas 60% da eletricidade consumida da rede elétrica se converte em trabalho útil de IA. O software DSX MaxLPS da NVIDIA ataca esse problema redistribuindo energia entre GPUs e racks em tempo real, suportando resfriamento líquido com água morna e utilizando técnicas como ‘power steering’ para extrair mais performance.
Essa abordagem permite que operadores executem até 40% mais GPUs dentro do mesmo orçamento energético – um ganho significativo para empresas brasileiras que enfrentam custos elevados de energia e limitações de infraestrutura elétrica.
Validação em Produção Real
A confiabilidade em escala de rack em data centers de IA de grande porte é conquistada com muito esforço. Sistemas em escala de rack introduzem modos de falha que implementações de nó único nunca encontram, e lidar com eles requer rigor de engenharia e tempo em produção.
A plataforma Blackwell NVL72 já está sendo utilizada pelos principais laboratórios de IA do mundo. Anthropic, OpenAI e SpaceX AI confiam nesses sistemas para executar inferência em produção. Além disso, diversos provedores de serviços de inferência estão implementando modelos abertos em produção usando a plataforma Blackwell:
A CoreWeave implementou o modelo Kimi K2.6 em sistemas GB300 NVL72, combinando quantização NVFP4 e decodificação especulativa EAGLE3 para maximizar a performance de inferência. A Perplexity executa os modelos Qwen3 235B e Qwen3.5-397B em GB200 NVL72 para sua plataforma de agentes de IA, servindo milhões de consultas diariamente com a latência e confiabilidade que os consumidores exigem. A Fireworks AI implanta o GLM 5.2 na plataforma Blackwell, habilitando implementações de produção para clientes incluindo Cursor e Factory AI.
O que isso significa para o mercado brasileiro
Para executivos e gestores de TI no Brasil, essas inovações em eficiência energética representam uma mudança fundamental na economia de data centers de IA. Com custos de energia frequentemente representando 30-40% dos gastos operacionais totais, melhorias de 10-25x em performance por watt podem transformar projetos de IA de inviáveis para altamente lucrativos.
Empresas brasileiras que estão construindo ou expandindo infraestrutura para IA precisam considerar não apenas o custo inicial do hardware, mas principalmente a eficiência energética de longo prazo. A diferença entre escolher uma plataforma com alta performance por watt versus uma alternativa menos eficiente pode significar milhões de reais em custos operacionais ao longo da vida útil do equipamento.
Além disso, com as crescentes preocupações sobre sustentabilidade e metas de carbono neutro, a eficiência energética dos data centers está se tornando não apenas uma questão econômica, mas também de responsabilidade corporativa e conformidade regulatória.
Conclusão
A métrica de performance por watt emergiu como o indicador definitivo para avaliar infraestrutura de IA porque ela captura a realidade econômica fundamental desses sistemas: em um mundo limitado por capacidade energética, a eficiência determina quem pode escalar e quem ficará para trás. As inovações apresentadas pela NVIDIA com as plataformas Blackwell e Vera Rubin representam saltos significativos nessa métrica crucial.
Para o mercado brasileiro, onde custos energéticos são particularmente desafiadores, essas melhorias em eficiência podem ser o diferencial entre ter capacidade competitiva em IA ou ficar limitado por restrições de infraestrutura. À medida que a demanda por processamento de IA continua crescendo exponencialmente, impulsionada por agentes autônomos e modelos cada vez mais sofisticados, a performance por watt será cada vez mais o fator determinante do sucesso em IA empresarial.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em NVIDIA Blog, disponível em https://blogs.nvidia.com/blog/performance-per-watt-ai-infrastructure-efficiency/.
