Etched — 专为 Transformer 打造的 AI 推理芯片 Sohu

简介

Etched 是一家总部位于加州库比蒂诺的 AI 芯片初创公司，由哈佛辍学生 Gavin Uberti 和 Chris Zhu 于 2022 年创立。公司专注于构建前沿推理集群（Frontier Inference Clusters），核心产品是专为 Transformer 架构设计的 ASIC 芯片 Sohu，号称比 NVIDIA 即将推出的 Blackwell GPU 快一个数量级且成本更低。

Etched 团队超过 400 人，来自 NVIDIA、Google TPU、Broadcom、SK Hynix、TSMC 等顶级半导体公司。已累计融资 8 亿美元（4 轮未公开融资 + 战略投资），估值达 50 亿美元。其 A0 芯片已从台积电 N4P 工艺回片，首批机架产品已获超 10 亿美元 客户合同，预计今年夏季出货。

核心技术

• Sohu 芯片：专为 Transformer 模型打造的专用 ASIC，是 Sohu 在正在训练的 AI 模型上的推理速度比 NVIDIA 现有的 H100 系统快 20 倍以上。
• 低电压推理（LVI）：独创架构使芯片运算模块电压仅为传统 AI 芯片的一半以下，实现多倍 FLOPS 密度，可在万亿参数稀疏 MoE 模型上达到 80%+ 峰值 FLOPS 不热降频。
• 集群级内存（CSM）：HBM/SRAM 混合设计，通过专有超低延迟高带宽互联实现跨芯片共享内存池，兼顾高吞吐和低延迟。
• 全栈协同设计：从晶体管到 Token，芯片、封装、PCB、冷板、互联全面协同优化，支持万亿参数 MoE、长上下文和 Agent 工作负载。

市场定位

当前的 AI 芯片市场由 NVIDIA GPU 主导，但通用 GPU 在设计上并非专门为 Transformer 推理优化。Etched 的策略是用专用芯片（ASIC）在单一场景上做到极致——只做 Transformer 推理，但在这个场景上比任何通用 GPU 都更快、更便宜、更省电。这种策略在 AI 芯片历史上已有成功先例：Google TPU 通过专为 TensorFlow 设计取得了巨大成功。

Etched 已获得超过 10 亿美元客户订单，并启动了生产。为支持 24/7 工程循环，公司在台湾设立了工厂，在圣何塞建立了数据中心、测试中心和 NPI 原型实验室，目标是快速达到吉瓦级部署规模。

适用场景

• 大模型推理服务：需要以最低成本、最高吞吐量运行 Llama、GPT 等 Transformer 模型。
• 云服务提供商：希望降低推理基础设施的总拥有成本，替代部分 GPU 集群。
• 长上下文与 Agent 应用：需要高吞吐同时保持低交互延迟的实时 AI 应用。

常见问题

Q：Sohu 芯片与 NVIDIA Blackwell 相比如何？
A：Etched 声称 Sohu 在 Transformer 推理上比 NVIDIA Blackwell 快一个数量级，一个 8 芯片 Sohu 服务器每秒可处理超过 50 万 Llama 70B token。

Q：团队背景如何？
A：创始人 Gavin Uberti 和 Chris Zhu 是哈佛大学辍学生，团队成员来自 NVIDIA、Google TPU、Broadcom、SK Hynix、TSMC 等行业巨头，共 400+ 人。

Q：芯片是否已量产？
A：A0 芯片已从台积电 N4P 工艺回片并通过验证，首批机架产品将于 2026 年夏季出货，订单规模超 10 亿美元。