Etched - Transformer-Specific AI Chip Sohu

Introdução

A Etched é uma startup de chips de IA sediada em Cupertino, Califórnia, fundada em 2022 pelos calouros de Harvard Gavin Uberti e Chris Zhu. A empresa se dedica à construção de Frontier Inference Clusters, tendo como produto principal o Sohu, um chip ASIC desenvolvido especificamente para a arquitetura Transformer. A Etched afirma que o Sohu é uma ordem de grandeza mais rápido que a futura GPU Blackwell da NVIDIA, além de ser mais econômico. A equipe da Etched conta com mais de 400 pessoas, com talentos vindos das principais empresas de semicondutores, incluindo NVIDIA, Google TPU, Broadcom, SK Hynix e TSMC. A empresa levantou um total de US$ 800 milhões em quatro rodadas de investimento não divulgadas, além de investimentos estratégicos, atingindo uma avaliação de US$ 5 bilhões. Seu chip A0 já voltou da node de processo N4P da TSMC, e os primeiros produtos em escala de rack garantiram mais de US$ 1 bilhão em contratos com clientes, com envios previstos para este verão.

Principais Recursos

• Chip Sohu: um ASIC dedicado, construído especificamente para modelos Transformer, entregando velocidades de inferência mais de 20x superiores às dos sistemas H100 da NVIDIA em modelos de IA atualmente em treinamento.
• Inferência de Baixa Tensão (LVI): uma arquitetura proprietária que opera os módulos de computação com menos da metade da tensão dos chips de IA tradicionais, alcançando várias vezes mais densidade de FLOPS e mantendo 80%+ dos FLOPS de pico em modelos MoE esparsos de trilhões de parâmetros, sem throttling térmico.
• Memória em Escala de Cluster (CSM): um design híbrido HBM/SRAM que cria um pool de memória compartilhado entre os chips por meio de um interconnect proprietário de latência ultrabaixa e alta largura de banda, equilibrando alto throughput com baixa latência.
• Co-Design Full-Stack: do transistor ao token, o chip, o encapsulamento, a PCB, as cold plates e o interconnect são todos co-otimizados para suportar modelos MoE de trilhões de parâmetros, cargas de trabalho de contexto longo e aplicações baseadas em agentes.

Destaques

• Preços: não divulgados publicamente nas páginas que analisamos; consulte o site oficial para ver os planos atuais.
• Demanda e pedidos: a Etched relata mais de US$ 1 bilhão em pedidos de clientes e está validando seu primeiro produto em escala de rack com clientes.
• Investimento: a empresa levantou US$ 700M com avaliação de US$ 21B, em rodada liderada pela Jane Street, parte dos US$ 800M levantados em quatro financiamentos.
• Foco do produto: o Sohu é um chip de inferência exclusivo para Transformers; o silício A0 já passou pela etapa de tape-out no processo N4P da TSMC.
• Equipe e operações: uma equipe de engenharia com mais de 400 pessoas, com experiências na NVIDIA, Google TPU, Broadcom, SK Hynix e TSMC, e infraestrutura em Taiwan e San Jose.

Para Quem É

A Etched foi criada para organizações que executam cargas de trabalho de inferência Transformer em larga escala, incluindo provedores de serviços em nuvem que buscam reduzir o custo total de propriedade substituindo partes de seus clusters de GPUs, e equipes de IA que servem modelos como Llama ou GPT e precisam de throughput máximo com custo mínimo. Também é ideal para aplicações de contexto longo e baseadas em agentes que exigem alto throughput mantendo baixa latência interativa, tornando-se uma opção atraente para qualquer operação onde o desempenho de inferência Transformer e a eficiência de custo sejam as principais prioridades.