A OpenAI publicou os primeiros números de benchmark do Jalapeño, seu primeiro chip de inferência próprio. No benchmark público InferenceX, da SemiAnalysis, o componente de 700 watts entregou de 1,5 a 1,9 vezes mais trabalho de IA por watt em throughput de pico e latência ponta a ponta de 1,7 a 3,6 vezes menor do que sistemas baseados na Nvidia Blackwell. Para cargas de trabalho altamente interativas, a vantagem chegou a 2,1 a 4,1 vezes.
Cobrimos esses primeiros resultados pelo ângulo da indústria — se o fosso do CUDA sobrevive ao desafio — em O Chip Jalapeño da OpenAI Supera a NVIDIA: Primeiros Benchmarks; este artigo adota uma perspectiva diferente: a arquitetura e a integração full-stack por trás dos números. Isso não é apenas um anúncio de produto. É a primeira vez que um laboratório de IA de ponta coloca seu próprio silício em produção e o posiciona na fronteira de Pareto da eficiência de inferência em uma única geração. Isso importa porque o custo de inferência agora é o item dominante na operação de modelos de grande porte, e quem controla a stack de inferência mais barata controla a economia da próxima onda de produtos de IA.
O que os números realmente dizem
A OpenAI testou o Jalapeño contra sistemas Nvidia GB200 e GB300 disponíveis comercialmente, usando o InferenceX com uma entrada de 8.000 tokens e saída de 1.000 tokens, predição single-token padrão e sem decodificação especulativa. Para manter a comparação honesta, a OpenAI normalizou os resultados pelo TDP (potência térmica de projeto) publicada de cada acelerador.
O Jalapeño é especificado em 700 watts, mas sua potência sustentada medida ficou em 550 watts ou menos nas cargas de trabalho testadas. Em três modelos públicos — o próprio GPT‑OSS 120B da OpenAI, o DeepSeek R1 670B e o Moonshot Kimi K2.5 1T — o chip superou os sistemas de comparação tanto em throughput quanto em latência. No Kimi K2.5, o maior modelo testado, o Jalapeño entregou cerca de 1,5 vez mais desempenho de pico por watt e latência ponta a ponta 3,4 vezes menor, com o tempo entre tokens caindo cerca de 3,8 vezes.
O número mais chamativo veio quando o Jalapeño foi desafiado a igualar a melhor velocidade anterior para um único usuário. Nesse alvo de latência, ele produziu cerca de 56 vezes mais throughput por quilowatt do que o sistema de comparação. No DeepSeek R1, o Jalapeño serviu aproximadamente 700 tokens por segundo a um único usuário, contra 169 tokens por segundo no sistema rival.
Por que a arquitetura é diferente
A maioria dos hardwares de inferência é otimizada ou para a etapa de processamento do prompt, conhecida como prefill, que é limitada por computação, ou para a etapa de geração de tokens, conhecida como decode, que é limitada pela largura de banda de memória. Um sistema excelente em um desses aspectos frequentemente fica ocioso esperando dados durante o outro. O Jalapeño tenta evitar essa troca minimizando o movimento de dados.
O chip mantém o estado do modelo, incluindo o cache KV usado durante a geração, explicitamente local. A rede faz parte da arquitetura, e não é uma reflexão tardia, de modo que toda a carga de trabalho pode permanecer dentro de um único domínio conectado. O resultado é um acelerador equilibrado, capaz de realocar recursos entre prefill e decode conforme a demanda de cargas de trabalho agênticas. Ele é fabricado no processo N3P da TSMC e oferece 13,4 PFLOPS de computação MXFP4 por die.
O quadro maior: integração vertical full-stack
A OpenAI também revelou que a IA ajudou a projetar o chip. A equipe foi do design inicial ao tapeout em cerca de nove meses, usando modelos para explorar implementações, encurtar ciclos de verificação e otimizar circuitos aritméticos. O chip foi codesenvolvido com a Broadcom e pretende ser um alvo de programação previsível tanto para engenheiros humanos quanto para geradores de código por IA.
Isso espelha o que a Apple fez com os chips da série A para o iPhone: ter sob seu controle hardware, software e carga de trabalho permite que uma empresa otimize toda a stack em vez de comprar um componente de uso geral. Para a OpenAI, isso significa que modelos, software de serving, memória, rede e chips podem ser ajustados em conjunto usando tráfego real de produção. Para a indústria, significa que a pressão de custo de inferência que o reajuste de preços da DeepSeek expôs recentemente está agora empurrando os laboratórios a construir seu próprio hardware — uma mudança que mapeamos em nossa análise sobre a corrida por chips de IA.
Ressalvas: primeiros benchmarks não são um veredito
Os resultados são promissores, mas a janela de comparação é estreita. O InferenceX usa comprimentos de sequência fixos, e a OpenAI selecionou os modelos e as linhas de base. O chip ainda não foi testado em cargas de trabalho agênticas de múltiplos turnos, como o AgentX, e quando o Jalapeño chegar à implantação em volume, no final de 2026 ou em 2027, a geração Vera Rubin da Nvidia pode ter mudado a comparação.
Riscos de cadeia de suprimentos e de manufatura também permanecem. O silício de primeira geração de laboratórios de nuvem tem um longo histórico de atrasos e disponibilidade limitada. Tanto a Meta quanto a Microsoft enfrentaram dificuldades para entregar aceleradores de IA próprios competitivos, então um único benchmark não prova que o domínio da Nvidia chegou ao fim.
O que isso significa para quem constrói
Para equipes de IA, o Jalapeño é um sinal para tratar a inferência como um problema de engenharia de custo e latência, e não como um problema de compra de GPUs. Três lições práticas se destacam:
Meça o custo por token útil, não por chip. A métrica relevante é quanto trabalho de IA de qualidade um sistema pode entregar por watt e por dólar na latência que seus usuários realmente percebem. FLOPS brutos não são mais um proxy confiável. O detalhamento do custo de tokens em cinco camadas oferece um framework pronto para recalcular esses números.
O codesign se tornará o padrão. À medida que modelos e chips são construídos juntos, a fronteira entre pesquisa de modelos e engenharia de infraestrutura se dissolve. Equipes capazes de iterar nos dois lados terão uma vantagem estrutural.
Não aposte contra a Nvidia ainda. O Jalapeño está programado para implantação interna limitada até o fim de 2026, com expansão mais ampla em 2027. Até que esteja amplamente disponível, quem constrói na nuvem deve continuar otimizando no hardware existente enquanto acompanha os roadmaps de silício próprio.
FAQ
O que é o Jalapeño?
O Jalapeño é o primeiro chip de inferência de IA próprio da OpenAI, codesenvolvido com a Broadcom, com o objetivo de servir modelos de linguagem de grande porte de forma mais eficiente do que as GPUs disponíveis comercialmente.
Quanto mais rápido ele é que a Nvidia Blackwell?
No benchmark público InferenceX, o Jalapeño entregou de 1,5 a 1,9 vezes mais throughput por watt e latência ponta a ponta de 1,7 a 3,6 vezes menor no GPT‑OSS 120B, no DeepSeek R1 e no Kimi K2.5.
Quando o Jalapeño estará disponível?
A OpenAI espera implantação interna limitada até o final de 2026, com disponibilidade mais ampla planejada para 2027.
