Kimi K3 Open Source: A Reinvenção do Transformer Forjada Atrás do Muro de Computação

Kimi K3 Open Source: A Reinvenção do Transformer Forjada Atrás do Muro de Computação

Na noite de 27 de julho, a Moonshot AI publicou os pesos completos do Kimi K3 no Hugging Face: 2,8 trilhões de parâmetros, o maior modelo de pesos abertos do mundo, acompanhado de um relatório técnico e três peças de infraestrutura essencial — MoonEP, FlashKDA e AgentEnv.

Não foi um lançamento open source qualquer. Três dias antes, Jensen Huang havia publicado sua primeira mensagem no X — uma carta aberta intitulada “Open Weights and American AI Leadership”, inicialmente assinada por 25 empresas, dobrando para 50 em 48 horas, com OpenAI e Google adicionando seus nomes depois. O líder de IA da Casa Branca, David Sacks, discordou publicamente, levando a disputa sobre modelos abertos do debate técnico à confrontação aberta entre política e indústria. O veredito da Wired foi direto: o Vale do Silício se dividiu por causa da IA chinesa.

Deixe os benchmarks de lado — isso já foi exaustivamente coberto. A verdadeira questão é o que, por trás do muro de controles de exportação de chips, as empresas chinesas de IA construíram a ponto de fazer Jensen Huang se opor à Casa Branca e dezenas de empresas do Vale do Silício tomarem posição publicamente.

A Resposta: Os Três Pilares do Transformer, Cada Um Reconstruído

O que impressionou a comunidade técnica não foi a contagem de 2,8T de parâmetros. Foi o fato de o K3 rodar com cerca de 50 bilhões de parâmetros ativos — menos de 2% do total — em um nível próximo ao do GPT-5.6 Sol e do Claude Fable 5. Os três pilares do deep learning, no lugar há nove anos, foram cada um retrabalhados:

1. Atenção: de um caderno que só cresce a um quadro branco

O KV cache de um Transformer tradicional é o caderno da sessão: cada token gerado arquiva vetores de Chave/Valor para todo o contexto. No Llama 3.1-70B isso representa cerca de 320KB por token — ou seja, uma sessão de 1 milhão de tokens exigiria 320GB de memória, mais do que a capacidade total da placa flagship da NVIDIA, a Rubin (288GB).

A resposta da Kimi é o KDA (Kimi Delta Attention), um mecanismo de atenção linear que substitui o cache inflado por um estado de matriz de tamanho fixo. O K3 usa um híbrido 3:1 — três camadas KDA para cada camada de atenção completa. Contra uma baseline tradicional de MLA, o KV cache encolhe até 75%, e o throughput em contextos de milhões de tokens melhora 6×. O resultado: o K3 carrega 40× os parâmetros do Llama 3.1-70B, mas seu cache por token é 13× menor — a base de seu contexto de um milhão de tokens com dezenas de clientes concorrentes.

2. Conexões residuais: do empilhamento indiscriminado à agregação seletiva

As conexões residuais convencionais somam a saída de cada camada de volta ao tronco indiscriminadamente. Os residuais de atenção do K3 (AttnRes) permitem que cada camada agregue seletivamente as saídas de camadas anteriores — as camadas profundas aprendem quais informações prévias são realmente úteis agora. O custo de treinamento cai cerca de 20%, com todas as camadas agrupadas em 8 blocos contabilizados independentemente para manter a sobrecarga baixa.

3. O otimizador: a revolução de oito dólares, de AdamW a Muon

No final de 2024, o pesquisador Keller Jordan executou o speedrun do nanoGPT com o otimizador Muon por US$ 8 por treino. Jordan entrou na OpenAI em janeiro de 2025; um mês depois, a Moonshot citou o post do blog e validou o Muon com aproximadamente o dobro da eficiência computacional do AdamW na escala de dez bilhões de parâmetros. O K3 o refina em MuonClip, ajustado independentemente por cabeça de atenção.

Aqui está o ponto central de tudo isso: nenhum desses detalhes precisa passar pela alfândega. Atenção é um algoritmo; conexões residuais são matemática; otimizadores são regras de composição. O muro de computação impede chips e máquinas de litografia. Ele não impede o design de arquiteturas.

Dois Muros, Dois Jogos Diferentes

Entender o K3 — e a ascensão da IA chinesa em geral — começa com dois muros de naturezas diferentes.

O muro de computação empurrou o problema de “computação” para “capacidade”. Desde outubro de 2022, os controles de exportação dos EUA mantêm as GPUs mais avançadas fora do alcance das mãos chinesas. Mas a esparsidade MoE, a quantização de baixa precisão e a atenção híbrida reformularam o problema de “preciso de uma placa gigante que não posso comprar” para “orquestro uma frota de placas comuns que posso comprar”. O desvio de parâmetros via MoE economiza computação, mas não pesos — o K3 ainda pesa 1,4TB em MXFP4, com recomendação oficial de 64+ placas. O critério de compra mudou de acordo: a computação bruta importa menos; a capacidade de memória e a interconexão importam mais.

O muro de dados está diante de todos. Em março, na GTC, a palestra “How We Scaled Kimi K2.5”, de Yang Zhilin, nunca mencionou os controles de chips. Ele falou de outra coisa: dados de alta qualidade são finitos. “Eficiência de token não é apenas uma questão de eficiência — ela eleva o teto da própria inteligência.” Quando os dados acabam, quanto um modelo extrai de cada token decide até onde a inteligência sobe.

As duas narrativas não conflitam: o muro de dados garante que alguém terá que trilhar esse caminho, mais cedo ou mais tarde; o muro de computação decide quem o trilha primeiro, e a que velocidade. Olhe para trás, ao longo de quatro anos — MLA, DSA, KDA, além da linha MoE de esparsidade extrema — o trecho mais denso de inovação em arquitetura dessa linha do tempo veio de dentro do muro de computação.

Três Caminhos Que Reescrevem a Conta Global

Caminho 1: arquiteturas híbridas viram o padrão de 2026–2028

A atenção completa não está morrendo; está sendo reposicionada de espinha dorsal fixa para precisão sob demanda — a maioria dos tokens flui por caminhos lineares mais baratos, com a recuperação global invocada apenas para raciocínio complexo de múltiplos saltos. Espere que a mesma lógica de alocação se espalhe para especialistas, profundidade de raciocínio e precisão. Um sinal revelador: a MiniMax alternou para híbrido (linear + softmax) no M1, voltou à atenção completa no M2 e M2.5 e, depois, retornou à atenção esparsa no M3 — um zigue-zague ao longo de três gerações, porque, como explicou seu líder de pré-treinamento, os híbridos brilham em modelos pequenos, mas perdem em raciocínio de múltiplos saltos em escala. O desempenho do K3 com 2,8T de parâmetros encerra a questão: híbrido funciona em escala. A era de uma única arquitetura para todos os chips pode estar acabando — futuras famílias de modelos podem se bifurcar no treinamento para diferentes orçamentos de memória, interconexões e unidades de precisão, compiladas por máquina como software.

Caminho 2: a computação se fragmenta; a memória cobra o aluguel

O paradoxo de Jevons está se concretizando na IA: ganhos de eficiência elevam o consumo total. As máquinas a vapor do século XIX ficaram dramaticamente mais eficientes e o consumo de carvão disparou mesmo assim — a energia mais barata puxou indústrias inteiramente novas para queimá-la. A mesma história aqui: quanto mais barato o token, mais rápido contextos de milhões de tokens, raciocínio profundo e agentes sempre ativos se acumulam. O K3 é a prova viva — a geração com a compressão de arquitetura mais agressiva carrega o preço mais alto: US$ 15 por milhão de tokens de saída, quase 4× o K2.6. O líder comercial da Moonshot foi direto: o preço não visa ser barato; é uma declaração de que modelos abertos, incluindo os chineses, não são um rótulo de desconto. Os preços contratuais de DRAM subiram cerca de 90% em um trimestre no primeiro trimestre. A memória economizada é consumida por contextos mais longos, maior concorrência e parâmetros maiores, e a demanda transborda do HBM para a memória principal e SSDs. A computação se fragmenta; a memória cobra o aluguel.

Caminho 3: open source como o ingresso para o novo centro de poder

A lógica de Huang é coerente: quanto mais abertos os pesos, mais os modelos se comportam como componentes commodities, e a base de compradores de placas se amplia de alguns gigantes para a ampla economia de desenvolvedores. O que realmente preocupa a NVIDIA são seus megaclientes de código fechado (OpenAI, Anthropic) construindo seus próprios chips. Desde o upload do K3, a Microsoft vem avaliando sua integração ao Copilot e ao Azure; DoorDash e Coinbase confirmaram usar o K3 para cargas de trabalho sensíveis a custo. O open source deixou de ser uma postura moral e virou infraestrutura. Demis Hassabis, do DeepMind, endossa ecossistemas abertos enquanto propõe um órgão de padrões liderado pelos EUA — e a Anthropic, mantendo a linha do código fechado, se vê cada vez mais isolada no Vale do Silício.

Três Camadas de Lições

Para praticantes de IA: atenção linear, roteamento esparso e treinamento consciente de quantização estão migrando de “vistos em artigos” para ferramentas do dia a dia. Acompanhe KDA, Muon e FlashKDA — já são opções disponíveis no vLLM, SGLang e TensorRT-LLM.

Para tomadores de decisão técnicos: a competição de precificação de tokens está mudando de “quão barato” para “quão inteligente no custo” — a despesa real não é a inferência em si, mas a geração, o armazenamento e a reutilização de estado (KV cache). A precificação diferenciada da Kimi (cache hit a US$ 0,3 vs. miss a US$ 3 por milhão de tokens) é um sinal claro.

Para empresas: a escolha nunca importou tanto. A frase de Nadella merece estar na mesa de todo CTO: “Aposte a empresa inteira em uma única IA e você pode perder a empresa inteira”. Modelos abertos estão alcançando os fechados em capacidade por um terço a metade do preço. Estratégia multi-modelo não é mais um plano B — é controle de custos.

O cerco se mantém, e a ruptura acelera. O que o muro pretendia bloquear foi justamente o que as pessoas de dentro ainda podiam construir. Quatro anos depois — da forma dos chips ao preço da memória e ao etiqueta de preço da inteligência — a caneta que reescreve a conta global está nas mãos dos sitiados. O K3 não é o jogo final: os artigos e pesos são públicos, os kernels KDA são abertos. A inovação acontece na China, os padrões se consolidam na comunidade open source, e os lucros fluem para fabricantes de memória, nuvens e aplicações. Para que as empresas chinesas de modelos escapem dessa divisão, vender pesos e tokens não basta — elas precisam avançar para runtimes gerenciados e agentes de longa duração.

Essa é a próxima batalha da IA chinesa.

Notícias Relacionadas