失业工程师 7000 行代码复刻 AMD 重金收购的 AI 芯片:芯片设计正在变成「编译问题」
8 月 6 日,AMD 官宣收购 AI 推理芯片新星 Taalas,被视为向英伟达发起挑战的「秘密武器」。香槟还没开完,一位失业工程师在 X 上轻描淡写地扔出一颗炸弹:过去 6 个月,他把 Taalas 的专利拆解了个遍,「我觉得他们的方案还能做得更好」——然后写了一版约 7000 行代码的编译器。
他声称自己的设计比 Taalas 少做 100 倍的内存调用,推理速度目标直接翻倍到 40,000 tokens/秒(Taalas 跑出 17,000 已被 AMD 视为珍宝)。结尾一句话令人心酸:「想看 40k tokens/秒吗?我现在破产了、还失业了,全网在线等一个便宜的流片渠道。」
Taalas 为何值钱:内存墙
传统 GPU(冯·诺依曼架构)里计算和存储分离,每次计算都要把权重从 HBM 搬出来、算完再放回去,这就是业界所说的「内存墙」。Taalas 直接掀桌:不做通用 GPU,而是围绕某个模型定制芯片(SMIC,特定模型集成电路),把权重物理「刻」进晶体管里。
其第一代测试芯片 HC1(台积电 6nm)跑 Llama 3.1 8B 达到约 17,000 tokens/秒/用户,官方称是 H200 的 73 倍、功耗仅其十分之一。代价是一颗芯片只能跑一个模型,但流片周期短至两个月,成本被大幅摊薄——这正是 AMD 下重注的原因。
7000 行代码的「炼金术」流水线
- 输入模型:丢进一个 HuggingFace checkpoint(权重文件)。
- 极致量化:纯软件驱动的量化,他自称比 Taalas 硬件团队做得更好。
- 权重下沉:把量化后权重沿金属层下沉,转换成 RTL 与 GDS(光刻掩模版图)。
- 物理验证:自动跑完 DRC、Yosys(开源综合)、PEX(寄生参数提取)。
- 产出芯片:一张把模型矩阵乘法变成电子波形执行的物理电路图。
他对 Taalas 最致命的一击:对方仍从只读存储器(bitROM)读数据,而他主张这步能耗可以「完全跳过」——100 倍内存调用缩减和翻倍推理速度正是来自这里。
芯片设计正在降维成软件问题
过去造一颗芯片是几年工期、几百名硬件工程师、数千万美元的浩大工程;现在一个人、一台电脑、一个流水线就能把 checkpoint 一路编译到 RTL/GDS。这就像软件行业当年的演进:写应用不再需要自建机房,而是 git push。如果 checkpoint → 量化 → RTL → GDS 的流水线真能自动化,定制 AI 芯片就不再是多年硬件项目,而只是一个「编译目标」。
但故事里藏着残酷的悖论:他用 7000 行代码在逻辑层掀翻了千亿巨头,却在物理层撞墙。大模型在 13nm 光刻面积里装不下,只能用台积电 7nm 及以下;而 5/6nm 只有英伟达、苹果、博通这种大鳄才谈得动。他付不起几百万美元流片费,于是这位「击败 AMD 设计团队」的人,只能在网上化身赛博乞丐,求一个便宜的 MPW(多项目晶圆)班车渠道。
产业信号
- 瓶颈从「设计人才」转向「流片通道」:设计到 GDS 一旦成为一条命令,稀缺资源就不再是工程师,而是台积电产能和廉价 shuttle。
- 推理效率成为新战场:17k tok/s 已威胁英伟达,40k tok/s + 数量级更少的内存搬运,让「按模型硬编码 ASIC」越来越可信。
- 「车库造芯」时代将至,但有天花板:逻辑层在民主化,代工厂没有。谁能把便宜的流片通道打通,谁才解锁真正的洪水。
可以怎么用
- 工程师:开源硅栈(Yosys、开放 PDK、DRC 工具链)就是新的杠杆,现在学等于 2015 年学 Kubernetes。
- 创业者:MPW/shuttle 与 PDK 获取层才是真空白。定制 AI 芯片的赢家不会是编译器最好的那个,而是让硅变得最便宜可印刷的那个。
- 关注 AI 基础设施的人:别只盯模型榜单,去看谁能最快、最便宜地把一个模型变成硅——那是下一道护城河。
参考:工程师原始 X 帖;SiliconANGLE 关于 AMD 收购 Taalas 的报道。