A inferência de modelos de grande porte está batendo em duas paredes ao mesmo tempo: a parede de capacidade e a parede de I/O.
Os parâmetros dos modelos continuam crescendo, enquanto contextos longos, conversas com múltiplas interações e cargas de trabalho de agentes fazem o cache KV se inflar. As arquiteturas MoE reduzem drasticamente o número de parâmetros ativados por passada de inferência, mas precisam armazenar pesos de especialistas que excedem em muito a capacidade da VRAM ou da memória do sistema. Na nuvem, a escassa HBM fica ocupada com pesos e caches enquanto a utilização das GPUs é limitada pela movimentação de dados; nos dispositivos, a DRAM ou memória unificada limitada restringe o tamanho de qualquer modelo executável localmente.
Enquanto a VRAM e a DRAM lutam para carregar a inferência sozinhas, um ator há muito subestimado está entrando em cena: o SSD. Ele está migrando de um depósito estático de arquivos de modelo para o caminho de dados em tempo real da inferência — um nível de armazenamento formal após HBM, VRAM e DRAM.
Por que o SSD precisa entrar no caminho da inferência
Isso não é caça a conceitos; a mudança na infraestrutura já aconteceu. O Mooncake, da Moonshot AI, roda uma arquitetura desagregada centrada no cache KV que organiza CPUs, DRAMs e SSDs ociosos em um cluster de GPUs em um cache distribuído, permitindo que dados frios residam de forma duradoura em memória flash barata e de alta capacidade. Em 2026, a NVIDIA lançou a plataforma de armazenamento de contexto CMX, adicionando um nível de flash otimizado para cache KV conectado via Ethernet à infraestrutura Vera Rubin — a NVIDIA o posiciona como uma camada de contexto em nível de pod entre a memória da GPU e o armazenamento compartilhado.
O sinal da indústria é explícito: SSDs estão se tornando um recurso que os sistemas de inferência agendam diretamente, não mais um periférico que carrega os modelos antes da diversão começar.
Mas ser convocado ao caminho de dados não é o mesmo que estar apto ao trabalho. Os SSDs tradicionais foram projetados em torno de armazenamento de arquivos e blocos, avaliados por largura de banda sequencial, IOPS aleatórios, confiabilidade e custo por terabyte. A inferência de LLMs exige entrega de dados sob restrições rígidas de tempo: o cache KV é gerado em rajadas durante o prefill e depois relido por sessão, camada e posição de token; a inferência MoE precisa buscar pesos específicos de especialistas antes de cada camada com base nos resultados de roteamento. Uma leitura que perde sua janela de computação deixa a GPU ociosa — e uma GPU ociosa é dinheiro em chamas.
O conflito mais profundo vive dentro do próprio SSD. A memória NAND flash lê em páginas e apaga em blocos; a FTL precisa gerenciar mapeamento de endereços, garbage collection e wear leveling, gerando amplificação de escrita e latência de cauda. A escrita sustentada de cache KV desgasta a flash muito mais rápido do que qualquer carga de trabalho de consumidor jamais fez. E o layout LBA tradicional não sabe nada sobre as relações semânticas entre camadas do modelo, especialistas MoE e blocos KV — dados relacionados ficam espalhados por dies e canais, tornando leituras paralelas previsíveis quase impossíveis.
Duas rotas técnicas: I/O reforçado ou armazenamento consciente da inferência
Os produtos comercializados como “SSDs de IA” agora abrangem várias abordagens, ainda sem uma definição unificada. Eles se dividem em dois grandes campos.
Rota Um: SSDs corporativos com IA reforçada
Estes continuam sendo dispositivos de bloco, mas suas métricas de design foram reordenadas em torno do caminho de dados do cluster de IA. O representante é a série Dongting N3X, da InnoGrit, construída sobre NAND XL-Flash e classe SLC para baixa latência e alta durabilidade, visando offload de cache KV e leituras e escritas temporárias de alta concorrência. Em comparação com SSDs TLC convencionais, materiais públicos citam latência de acesso reduzida a cerca de um terço, throughput de escrita cerca de três vezes maior e DWPD elevado de 17 a 33 vezes. O valor está menos nos números de pico do que em achatar a oscilação de desempenho que escritas sustentadas e garbage collection injetam no serviço.
A linha OceanDisk, da Huawei, cobre diferentes cargas de IA como uma família: o EX 560 empurra desempenho extremo de escrita aleatória e latência de escrita em nível de microssegundo para fine-tuning e escritas em cache quente; o SP 560 equilibra desempenho, durabilidade e custo para cache KV e serviço de contextos longos em clusters; o LC 560 chega a 245TB por unidade para corpora de treinamento, stores de vetores e arquivos de modelo. Reforçado para IA, em outras palavras, não é um único SKU — está se dividindo em linhas de produto de ultradesempenho, inferência de valor e capacidade.
Rota Dois: SSDs de IA que participam da inferência
O segundo campo vai além e muda o que um SSD faz na máquina: por meio de codesign de controlador, firmware, middleware e SO, ele constrói uma hierarquia quase de “virtualização conjunta NAND-plus-DRAM/VRAM”, permitindo que pesos de modelo, especialistas MoE e cache KV residam no SSD durante a inferência e fluam para a memória conforme a computação demanda.
O esquema aiDAPTIV, da Phison, particiona pesos de modelo que excedem a capacidade da VRAM em blocos transmitidos entre VRAM e SSD de acordo com a execução do modelo: pesos ativos ficam na VRAM, pesos inativos afundam na flash, e o tamanho do modelo carregável cresce sem comprar mais GPUs. Ele também salva o cache KV que de outra forma seria descartado, evitando a reexecução do prefill. Seus SSDs de cache dedicados são avaliados em até 100 DWPD.
A Longsys segue uma rota de “SPU de hardware mais iSA de software”: o SPU WM8500, construído em 5nm, integra compressão sem perdas dentro do armazenamento, um cache avançado HLC e agendamento híbrido de NAND — a compressão eleva capacidade efetiva e utilização de largura de banda, o HLC permite que o SSD absorva dados mornos-frios que antes viviam na DRAM, e o mecanismo híbrido move dados entre zonas de mídia por temperatura. Onde a Phison vende extensão de VRAM, a Longsys está atualizando o controlador de SSD de entregador de dados para agendador inteligente do lado do armazenamento.
A aliança Yinspect–Maxio tenta a integração mais profunda, costurando a hierarquia de cache do lado da computação através de middleware, firmware, controlador e gerenciamento de mídia NAND: segmentação de dados, estratificação quente-fria e prefetch preditivo em torno de três dimensões — especialistas MoE, cache KV e precisão numérica — dividindo arquivos de modelo em partes mais quentes de baixa precisão e mais frias de alta precisão. O objetivo declarado é se adaptar entre plataformas de processadores sem modificar arquivos de modelo nem invadir frameworks de inferência consolidados.
Um framework para entender os SSDs de IA
Leia toda essa mudança como uma tríplice promoção do papel do armazenamento.
Primeiro, de depósito para linha de montagem. Um SSD tradicional é um depósito de arquivos de modelo — mova os pesos para a memória antes da inferência e seu trabalho está feito. Um SSD de IA é uma bancada na linha de produção: o fornecimento de dados precisa acompanhar o ritmo da computação, e uma leitura lenta deixa a GPU ociosa, o que é dinheiro queimado.
Segundo, de corrida armamentista de capacidade para corrida armamentista de latência. O armazenamento tradicional compete em largura de banda sequencial e capacidade bruta; a inferência de IA compete em latência estável em profundidades de fila baixas e acesso granular. IOPS de pico não significam nada se uma única leitura perder sua janela de computação.
Terceiro, de periférico para variável de custo. Conforme as métricas da indústria migram de computação de pico para custo por token, throughput por watt e utilização efetiva de GPU, a vantagem de preço por terabyte do SSD sobre a HBM o torna a válvula de controle da economia de tokens — cada pedaço de dado frio movido da HBM para a flash reduz o custo marginal de inferência.
Perspectivas: a competição apenas começou
Três tendências parecem seladas. Primeira: SSDs de IA não vão substituir HBM, VRAM ou DRAM; eles adicionam um nível, remodelando a pilha por capacidade, desempenho e custo em quatro ou cinco camadas na nuvem, na borda e nos dispositivos — cada uma com sua função. Segunda: o piso para competir está subindo de “construir um SSD rápido” para “operar uma pilha completa de colaboração do controle NAND ao agendamento de inferência e à integração de sistemas”. A Phison e a aliança Yinspect–Maxio já passaram das demonstrações de conceito, validando simultaneamente em AI PCs de consumidor, workstations, plataformas de borda e nós corporativos de inferência — os primeiros a se movimentar estão acumulando dados de controlador, firmware, runtime e ecossistema de modelos que funcionam como um fosso competitivo. Terceira: os maiores beneficiários são os deployments locais de MoE e as aplicações de contexto longo: SSDs que participam da inferência permitem que dispositivos de ponta executem modelos MoE muito além de sua DRAM, e que sessões de contexto longo parem de pagar preços de HBM por cada página adicional de histórico.
O que isso significa para desenvolvedores
Três lições práticas. Ao estimar custos de inferência, pare de olhar apenas para o preço da GPU — precifique o nível de residência do cache KV, porque o mesmo contexto longo custa uma ordem de grandeza mais na HBM do que na flash. Ao construir aplicações de contexto longo ou multiagente, julgue os frameworks de inferência pelo seu agendamento de cache multinível — a desagregação de cache KV ao estilo Mooncake é o padrão — em vez de empilhar VRAM por reflexo. E ao especificar um AI PC ou workstation para modelos MoE locais, trate o SSD de IA como um parâmetro de configuração tão crítico quanto a capacidade de memória; produtos da Phison, Longsys e baseados na Maxio já estão embarcando em hardware de consumidor.
Conforme a atenção da indústria migra de “quanta computação” para “quanto por token”, o armazenamento deixa de ser um papel coadjuvante. Tudo o que a HBM já não consegue segurar se tornou a oportunidade do SSD de IA.
