A questão de saber se silício de IA personalizado pode superar o hardware topo de linha da Nvidia acabou de deixar de ser teórica. A OpenAI publicou os primeiros resultados de benchmark do Jalapeño, seu primeiro chip de inferência desenvolvido internamente, e a SemiAnalysis os verificou em seu próprio laboratório: em três modelos públicos, o chip entrega 1,5–1,9x mais trabalho de IA por watt, latência ponta a ponta 1,7–3,6x menor e até 4,1x mais desempenho em cargas de trabalho altamente interativas do que os sistemas GB200/GB300 da Nvidia. A história mais profunda é como ele chegou lá: do design ao tapeout em nove meses, com o GPT-6 (GPT-Astra) atuando como codesenhista. A corrida de hardware de IA acaba de se transformar em uma bola de neve.
Os números: o que o Jalapeño realmente superou
A OpenAI testou o Jalapeño no InferenceX, benchmark público de servir modelos da SemiAnalysis, usando três modelos abertos que cobrem a faixa de tamanhos: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. Os resultados oficiais divulgados:
- 1,5–1,9x mais trabalho de IA por watt no throughput máximo
- Latência ponta a ponta 1,7–3,6x menor
- 2,1–4,1x mais desempenho em cargas de trabalho altamente interativas
- Potência nominal de 700W, com potência sustentada medida em até 550W nas cargas testadas (o GB300 tem 1400W de nominal)
As medições independentes da SemiAnalysis adicionam os detalhes. No GPT-OSS 120B, o Jalapeño produz 1.459 tokens por segundo contra 535 do GB200 — uma diferença de 2,7x — e conclui uma requisição completa em 1,65 segundo contra 5,99 segundos no GB300. Se o GB300 for levado à sua própria velocidade máxima de decode (169 tokens/s), o throughput do Jalapeño nesse ponto de operação é 104,3x maior: a vantagem cresce de cerca de 1,7x para 104,3x conforme as demandas de interatividade aumentam. A economia em nível de sistema completo, com energia, refrigeração e rede distribuídas entre todos os chips, chega a US$ 1,56 por hora de chip para o Jalapeño — essencialmente idêntico aos US$ 1,55 do H100 — contra US$ 3,61 do Vera Rubin. E esses resultados foram obtidos com decodificação especulativa e predição de tokens desativadas, e sem separação de prefill/decode, enquanto todos os sistemas comparados rodavam sua melhor configuração. A SemiAnalysis estima que apenas habilitar a decodificação especulativa poderia reduzir o custo por token em mais dois terços.
Por que agentes mudam o sistema de avaliação
Comparar chips pelo throughput máximo com tamanho de lote máximo favorece o hardware grande e faminto por energia. Agentes quebram essa moldura. Uma tarefa de agente executa dezenas de etapas sequenciais, então uma diferença de latência de 4 segundos por etapa se multiplica ao longo de todo o trabalho. É por isso que a OpenAI fez o benchmark com uma experiência de usuário equivalente — quanto trabalho útil por watt atendendo à latência que um agente interativo exige — em vez de throughput bruto. É também por isso que o ponto extremo de 104,3x importa: o lugar onde o incumbente começa a se sufocar no seu teto de decode é exatamente onde as cargas de agentes vivem. Mesmo modelo, maior demanda de interatividade, e a vantagem vai de 1,7x para 104,3x.
Nove meses até o tapeout: a IA projetou seu próprio silício
O número mais disruptivo não é o throughput — é o tempo. A OpenAI foi do design ao tapeout em nove meses; ciclos típicos de ASIC levam de 18 a 36 meses. O acelerador foi o GPT-Astra, o modelo que o mundo externo chama de GPT-6, que atuou como codesenhista: explorando opções de implementação, comprimindo o ciclo de design-medir-verificar e micro-otimizando circuitos aritméticos. A SemiAnalysis relata que o design assistido por IA reduziu a área da unidade SIMD em 8% e a área do motor de matrizes em 10%, com melhor timing e consumo de energia do que os primeiros rascunhos. Código escrito por IA para os blocos de atenção e MoE roda 1,5–1,8x mais rápido que código dos melhores especialistas humanos. O die de computação tem cerca de 840mm² — apenas 18mm² abaixo do limite de 858mm² da retícula EUV. O ciclo agora está fechado: a IA projetou o chip, o chip roda IA, e a IA já está otimizando a IA que roda no chip. Ou, como colocou a SemiAnalysis — o GPT-5.6 Sol, um modelo rodando em GPUs da Nvidia, foi usado para projetar um chip que ameaça o fosso do CUDA. As próprias GPUs da Nvidia estão dando à luz sua sucessora.
O fosso do CUDA está morto?
Por quase vinte anos, o aprisionamento do CUDA foi o fosso mais profundo da indústria: a memória muscular dos engenheiros, duas décadas de bibliotecas e o custo de migração para qualquer outra plataforma. O veredito da SemiAnalysis é duro — o fosso pode estar morto, e a razão é velocidade. O Rubin da Nvidia fez tapeout do CoWoS um mês antes do Jalapeño, mas nenhum terceiro publicou resultados sobre ele; a OpenAI abriu seu laboratório para a SemiAnalysis imediatamente. O hardware nunca foi o problema — o ritmo da habilitação de software era. Um design do zero também deu vantagem à OpenAI: sem bagagem legada, uma arquitetura desenhada em página em branco. O debate sobre o fosso migrou da opinião para a medição.
O que acompanhar a seguir: Gen2, 10GW e a stack
O Jalapeño é a geração um de uma plataforma multigeracional, e o roadmap é explícito: a Gen2 está em desenvolvimento avançado, a Gen3 está tomando forma, a produção em massa cresce ao longo de 2027, e o próximo marco é 100MW. Por trás disso está o acordo de aceleradores personalizados de 10GW que a OpenAI assinou com a Broadcom — aproximadamente a capacidade de dez usinas nucleares. Em escala de rack, um sistema empacota 128 chips entre racks de CPU e ASIC em cerca de 160kW. A fronteira de eficiência também se separa com clareza: largura de banda HBM por watt de 22 contra 11,1 do Rubin e 5,71 do GB300; FLOPs por watt praticamente empatado com o Rubin (19,1 vs 19,4), mas a 700W contra mais de 1800W. O stepping B0 já em fabricação adiciona cerca de 25% de desempenho por watt sobre o A0.
Isso faz parte de um padrão mais amplo: a corrida da indústria por participações acionárias, acordos de fornecimento de longo prazo e silício personalizado (veja nossa análise da disputa por chips de IA), e a mesma bola de neve aparecendo em ferramentas de EDA como o Cadence ChipStack, onde a IA agora cuida da verificação de chips. A Nvidia ainda está no trono — mas a desafiante não está mais esperando do lado de fora do portão. Ela já está dentro do datacenter, e projeta sua própria sucessora. Para um olhar mais detalhado sobre como o chip realmente alcança esses números, continue com nosso mergulho na arquitetura do Jalapeño.
O que fazer a respeito
- Revise seus modelos de custo de inferência. Se um chip de 700W com TCO equivalente ao H100 entrega 1,5–1,9x mais trabalho por watt, a economia por token muda — especialmente para cargas intensivas em agentes, onde a latência se acumula. Veja como o detalhamento de custo de tokens em cinco camadas muda quando a eficiência do silício deixa de ser o gargalo.
- Pare de tratar CUDA como sinônimo da vantagem de hardware da Nvidia. O ecossistema de software é o verdadeiro ativo; observe a velocidade de habilitação de software, não apenas as fichas técnicas. O cálculo de risco de fornecedor acabou de mudar.
- Faça benchmarks interativos, não em lote máximo. Meça tokens por watt na latência que seus agentes realmente precisam — esse é o número que decidirá seu próximo contrato de infraestrutura.
- Espere a bola de neve na sua própria toolchain. O design assistido por IA acabou de comprimir um ciclo de ASIC de 18–36 meses em nove. Ao avaliar qualquer fornecedor de silício ou hardware, pergunte o que a IA fez dentro do ciclo de design deles.
- Fique de olho no ramp de 2027. Quando a Gen2 chegar com decodificação especulativa habilitada e a implantação de 10GW escalar, os preços por token de hoje começarão a parecer uma relíquia histórica.
FAQ
A OpenAI está realmente superando a Nvidia em inferência?
No benchmark InferenceX da SemiAnalysis, em três modelos públicos (GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T), o Jalapeño entregou 1,5–1,9x mais trabalho por watt, latência ponta a ponta 1,7–3,6x menor e ganhos de 2,1–4,1x em cargas altamente interativas versus sistemas GB200/GB300, com potência nominal de 700W (medida em até 550W).
Isso significa que o CUDA está morto?
Não morto, mas o debate agora é mensurável. A SemiAnalysis argumenta que o fosso pode estar morto porque a velocidade de habilitação de software importa mais que a profundidade da stack: o Rubin fez tapeout um mês antes e ainda não tem resultados independentes, enquanto a OpenAI abriu seu laboratório para testes de terceiros.
O que torna o Jalapeño tão rápido?
Codesign em nível de sistema em torno de cargas de agentes — posicionamento local explícito do cache KV, rede integrada, um die de 840mm² próximo ao limite EUV — além do design assistido pelo GPT-Astra, que reduziu a área da unidade SIMD em 8% e a área do motor de matrizes em 10%. E rodou sem decodificação especulativa, que a SemiAnalysis estima poder reduzir o custo por token em mais dois terços.
