GLM 5.2 em AMD supera a curva de custos da NVIDIA: como a barreira de três camadas está se corroendo

GLM 5.2 em AMD supera a curva de custos da NVIDIA: como a barreira de três camadas está se corroendo

Imagine que você é o líder de compras de um provedor de nuvem selecionando hardware para um cluster de inferência. Duas opções: uma NVIDIA B200 ou uma AMD MI355X. O preço por placa da NVIDIA é quase 2,75 vezes o da AMD, mas seu ecossistema de software é mais maduro e a implantação é mais fácil — “comprar NVIDIA é comprar tranquilidade” tem sido o consenso mais forte do setor nos últimos cinco anos.

Mas e se eu dissesse que esse consenso está desmoronando rapidamente? Nesta semana, uma empresa com apenas US$ 4 milhões em funding inicial — a Wafer — rodou o mais recente modelo open-source da Zhipu, o GLM 5.2, em uma AMD MI355X. O resultado: throughput agregado por nó em 80% do da B200, pela metade do custo. Chegou ao segundo lugar no Hacker News, com a seção de comentários repleta de colegas pedindo detalhes técnicos — não porque desacreditavam, mas porque queriam desesperadamente saber “como”.

À primeira vista, esta é uma história de “a AMD está ficando competitiva”. Olhando mais a fundo, revela algo mais fundamental: a barreira da NVIDIA está sendo corroída de três direções simultaneamente.

Uma barreira derretendo em tempo real

Primeiro, os dados. A Wafer comprimiu os pesos do GLM 5.2 de BF16 para o formato MXFP4 (usando a ferramenta Quark da própria AMD) com praticamente nenhuma perda de precisão — o GSM8K caiu de 96,5% para 95,5%, o GPQA-Diamond de 92,2% para 90,3%, e o tau2 na verdade subiu de 81,9% para 83,4%. Então usaram o sglang como engine de inferência e encontraram dois problemas: a nomenclatura dos pesos do MTP-head causava uma falha no carregamento, e um kernel fundido tinha headers CUDA fixos no código sem um branch ROCm. As correções foram triviais: re-registrar as camadas de shared-expert com a nomenclatura real do sglang e adicionar uma única diretiva de compilação #ifdef USE_ROCM. Duas mudanças em nível de código triplicaram o throughput de stream único para 213 tok/s. No cenário de throughput agregado (20k de entrada, 1k de saída, 60% de cache hit), mudaram ainda o paralelismo de TP8 para TP4×DP2 e especificaram manualmente kernels da AMD para os shapes da camada de especialistas do GLM 5.2, alcançando 2.626 tok/s por nó — contra 3.192 da B200 na mesma carga de trabalho. Oitenta por cento do desempenho por menos da metade do custo.

Mas o que merece atenção não é o número em si. É o que a Wafer escreveu em seu próprio blog: “Desta vez, não precisamos escrever nenhum kernel customizado.” Considere: apenas meses antes, para rodar o Qwen3.5 397B na AMD, eles tiveram que forjar à mão kernels fundidos — mesclando seis chamadas de GPU em uma — para alcançar, por pouco, o topo do leaderboard da AA. Agora, adaptar o GLM 5.2 tinha se degradado a “depurar alguns problemas de compatibilidade de framework, adicionar duas linhas de código”. O que mudou? Não foi o time de marketing da AMD — foi a reação química de duas forças: a melhoria da engenharia assistida por IA e a aceleração da toolchain oficial da AMD para alcançá-la. O próprio posicionamento da Wafer é usar IA para otimizar infraestrutura de IA; sua equipe de poucas dezenas de pessoas consegue acompanhar o ritmo de lançamento dos modelos para adaptação porque as capacidades dos agentes de otimização de kernels e modelos continuam se fortalecendo. Do lado da AMD, o ecossistema ROCm está convergindo rapidamente — de “reescrever kernels toda vez” para “a toolchain funciona na maior parte, restam apenas alguns buracos”. A interseção dessas duas tendências é a premissa de empresas como a Wafer: fazer o trabalho de adaptação que a NVIDIA e a AMD “deveriam ter concluído, mas não concluíram”.

O framework da “barreira de três camadas”

Quão profunda é realmente a barreira da NVIDIA? Decomposta, ela tem três camadas. Camada um: a barreira de hardware (a mais rasa). Computação, memória, largura de banda. A MI355X da AMD já se aproxima ou supera parcialmente a B200 da mesma geração nas especificações de papel. Essa diferença está se estreitando rapidamente, mas nunca foi a verdadeira barreira da NVIDIA. Camada dois: a barreira de software (em afinamento). CUDA, cuDNN, TensorRT — quinze anos de acumulação considerados “irreplicáveis”. Mas o ROCm da AMD está alcançando, e de forma interessante, não pela AMD preenchendo cada buraco sozinha — são empresas terceiras de otimização (como a Wafer) e agentes de IA completando conjuntamente a “última milha” da adaptação. Camada três: a barreira de velocidade (a mais profunda). Suporte no day-0 — a NVIDIA consegue entregar soluções de inferência otimizadas no dia do lançamento de um novo modelo, enquanto a AMD frequentemente espera semanas ou meses. É por isso que a Wafer existe: comprimir a diferença de velocidade da AMD de “meses” para “dias”.

As camadas diferem em espessura, mas a mudança-chave é: uma rachadura apareceu entre as camadas dois e três. Quando agentes de IA conseguem preencher as lacunas de compatibilidade da AMD em dias, o “suporte no day-0” deixa de ser uma capacidade exclusiva da NVIDIA. Contanto que o modelo seja open-source e os chips da AMD existam, alguém — grandes empresas, startups, a comunidade open-source — preencherá a lacuna de tempo de adaptação.

Quem preenche a lacuna, quem se beneficia

Aplique o modelo aos jogadores e o quadro fica mais nítido. Para provedores de nuvem — os preços de inferência provavelmente continuarão caindo. O hardware da AMD é mais barato, e os custos de adaptação estão caindo rápido. Provedores de nuvem que conseguem rodar mais modelos open-source têm base para precificar a inferência de forma mais competitiva que a NVIDIA. Isso muda diretamente as decisões de implantação dos provedores de modelos. Para modelos open-source (GLM, Qwen etc.) — poder ser adquiridos a baixo custo por mais provedores de nuvem determina se eles podem competir com modelos fechados pelos usuários de inferência. O custo-benefício do GLM 5.2 na AMD significa que os modelos da Zhipu podem aparecer nas prateleiras de mais provedores de nuvem, atrás de uma “barreira invisível” mais baixa. Para a NVIDIA — ela não enfraqueceu, mas as regras mudaram. Sua competitividade era “cada dólar que você gasta vale a pena — por causa da tranquilidade”. Quando o prêmio da tranquilidade fica cada vez mais caro (os preços da B200 disparando por restrições de oferta) enquanto a AMD mais agentes de IA se torna cada vez mais “boa o suficiente”, a justificativa do prêmio se corrói.

A SemiAnalysis, empresa de testes independente, registrou uma trajetória semelhante em maio: o time da AMD passou 14 semanas fechando a lacuna de software no Qwen3.5, ultrapassando a curva de custos da NVIDIA — US$ 0,22 por milhão de tokens contra US$ 0,30 da B200. Duas ressalvas importantes: primeiro, implantação apenas em nó único; em clusters multi-nó de grande escala, a NVIDIA ainda leva vantagem. Segundo, “custo” aqui significa TCO de hardware mais custo de adaptação, excluindo o custo de oportunidade de migrar a expertise da equipe. Para empresas já construídas sobre CUDA, o custo de migração excede em muito a diferença de preço dos chips. Portanto, a barreira da NVIDIA não está desaparecendo da noite para o dia — ela está afinando da borda mais fraca para dentro: inferência em nó único, adaptação de modelos abertos, clientes incrementais sensíveis a preço. Depois, da borda em direção ao núcleo.

Se você está escolhendo hardware de inferência agora

Desenvolvedores de aplicações de IA pequenos e médios: a proposta de valor da AMD atingiu o estágio de “avaliar seriamente”. Encontre um parceiro estilo Wafer (ou execute o playbook público deles por conta própria) e teste sua carga de trabalho real. Não olhe o throughput no papel — olhe a latência do primeiro token, a taxa de cache hit e a curva de custos do seu cenário. Grandes provedores de nuvem: manter a NVIDIA para clusters centrais está correto. Mas implante ativamente nós AMD nos clusters de inferência de borda. Isso não é “trocar de fornecedor” — é “adicionar uma dimensão de compras”. A existência da AMD já é, por si só, sua moeda de barganha contra a NVIDIA. Decisores técnicos: pare de fazer a pergunta binária “a AMD pode substituir a NVIDIA”. A pergunta real é: no seu cenário específico, a “vantagem de custo” da AMD cobre o “custo de adaptação mais a diferença de desempenho”? A resposta a essa pergunta muda a cada seis meses — e cada mudança favorece a AMD.

Referências: Wafer, GLM 5.2 on AMD MI355X (wafer.ai/blog/glm52-amd) · Wafer, Kernels Are Still the Moat (wafer.ai/blog/kernels-are-still-the-moat) · SemiAnalysis, comparação de custos de inferência AMD vs NVIDIA (maio de 2026)

Notícias Relacionadas