AMD 8 月 6 日收盘后宣布收购多伦多初创公司 Taalas,把「把大模型权重直接刻进芯片」这条路正式收进了 Instinct 体系。事件的第一章已经写完 —— 第一代测试芯片 HC1 用台积电 6nm 工艺跑 Llama 3.1 8B,做到 16,960 tokens/秒,官方自称比英伟达 GPU 快 48 倍、比 Cerebras 加速器快 8.5 倍。但 Taalas 真正想交付的,其实是第二章:第二代芯片 HC2,目标每片 200 亿参数,采用 MXFP4 数值格式,2026 年夏至 2027 年初推出。

从 8B 到 200 亿,差在哪儿

HC1 的本质是「记忆 fabric + 计算 fabric」的双区结构:模型权重永久刻在 mask-ROM 的金属层里,KV 缓存和轻量适配器放在可写的 SRAM 里。它把「权重搬移到计算单元」这一最贵的瓶颈直接消掉,但代价是芯片锁死在某个具体的模型快照上 —— 一旦刻好,改不了。

HC2 把这条路的代价压了下来。Taalas 在 The Next Platform 的一次访谈中估算,把权重刻进硅片的成本大约只有从头训练一个前沿模型的 1/100。这意味着同一颗芯片里能容纳的权重规模,可以比上一代激进得多:从 8B 直接抬到 200 亿。TechTimes 的报道进一步指 HC2 将采用 MXFP4 这种行业标准的 4-bit 浮点格式,密度再上一个台阶,且对极端值和低比特量化的容忍度比 INT4 更好。

50 片拼 1T:用 GPU 时代的老办法解决新问题

只谈单片参数意义有限,真正有意思的是 Taalas 给出的扩展账本:50 片 HC2 用 pipeline parallelism 把权重切分,理论上就能跑 1 万亿参数的模型 —— 这正是当前最大规模开源与闭源模型所在的参数区间。换言之,HC2 不追求单片跑得最大,而是用「小颗粒、多芯片」的工程办法,把 MSIC(model-specific integrated circuit)这张牌推到能与 GPU 集群正面竞争的规模窗口。

AMD 的「tick-tock」算盘

Taalas 进 AMD 体系后,大概率不是要取代 Instinct,而是要塞进 Helios 机柜做分层。一种已经在内部流传的部署模型是:Prompt 处理留在 GPU 上做(预填充是计算密集、对更新灵活度敏感),token 生成交给 Taalas 加速器(解码是访存密集、对单次延迟敏感,且模型一旦稳定就很少改动)。这种拆分与英伟达 2025 年底花约 200 亿美元拿下 Groq 授权许可的逻辑同源:GPU 厂商不再只卖 GPU,而是把专用推理硅挂在自己体系边上,一起卖给「agentic、always-on」的工作负载。

AMD SVP of AI Vamsi Boppana 在公告中的措辞也印证了这一点:AMD 要构建一个「全栈 AI 平台」,让客户能为每一种 AI 工作负载挑选最合适的算力解 —— 这意味着 Instinct 与 Taalas 两条产品线会并行存在,而非互相替代。

三个不能回避的代价

HC2 解决的是「能不能做大」,没解决的是「能不能动」:

  • 模型锁死:一张芯片只能跑刻进去那一刻的模型。同一型号增量更新只需换两层金属层,成本可控;但要是换一个全新基座模型,就是完整流片。
  • 安全补丁失效:任何 jailbreak 或 prompt injection 一旦发现,刻在硬件里的版本没法热修。这把传统的「软件快速打补丁」变成「重新流片」,对长生命周期产品反而是优点,对持续迭代的产品反而是负担。
  • 面积代价:HN 讨论里有人估算过,4GB 权重用 mask-ROM 刻大约要 800mm²,而同样容量的 DRAM 只要 80mm² 左右,差一个数量级。这意味着短期内它进不了手机、笔记本,更适合长生命周期、固定模型的边缘 / 嵌入式场景 —— 比如机器人、drive-thru 语音助手、视觉系统。

所以呢

HC2 不是 GPU killer,但它把「专用推理硅片」这条原本只在博客文章里出现的思路,拉到了可以正面承接 1 万亿参数模型的工程量级。AMD 现在手里同时有 Instinct GPU + Taalas MSIC 两张牌,关键问题是产品矩阵怎么排:什么时候让模型「毕业」到 Taalas 硅片上,什么时候继续留在可更新的 GPU 上 —— 这个判断会成为接下来两年所有想做大规模 agent / 长上下文推理的团队,绕不开的工程参考点。

原始出处:Taalas 把模型权重刻进芯片,而 HC2 把这件事推到了 200 亿参数 / MXFP4 / 50 片拼 1T 的下一章。技术细节详见 The Next Platform 访谈与 TechTimes 报道。