一个把「AI 写代码」做到生产代码里的项目
8 月 4 日,面壁智能联合 OpenBMB 开源社区正式发布并开源 ForgeStencil(GitHub: OpenBMB/ForgeStencil,Apache-2.0)。它瞄准一个工程师圈外很少听说、但 HPC 圈里最头疼的内核类型——Stencil(模板计算):在结构化网格上、每个点只依赖邻近若干点、按固定模式反复迭代更新的一种数值计算结构。
它存在于几乎所有重型科学 / 工业仿真里:计算流体力学(hypre)、电磁仿真(FDTD/gprMax)、核反应堆中子学(minisweep)、地震成像、油气勘探、气候模拟、医疗成像。Stencil 内核常年占据这些程序 50%+ 的运行时间,且受限于显存带宽——也就是说,把 Stencil 优化做到接近硬件理论上限,就等于把这些程序的速度推到物理极限。
跟以往「自动出代码」的工具到底差在哪
过去二十年里,Stencil 自动化工具不少(Halide、Devito、EBISU、DRStencil、ConvStencil、AN5D),它们能生成高效的内核代码、能在固定空间里搜索参数。但它们有一个共同的硬限制:整体优化策略由人类设计、最终的集成(patch 进真实软件)也由人类工程师手动完成。当场景、网格尺寸、硬件换掉,这套手动活就要重做。
ForgeStencil 的关键设计是把策略发现和应用集成两件事都自动化,靠两个协同的 Agent(官方 README):
- Kernel Agent ——负责策略研究阶段:Plan → Code → Profile 循环,自主发现新优化策略(tiling、fusion、layout 调整、occupancy 优化、host-side 重构),并把成果沉淀进 kernel/ 下的 operator 库。
- App Agent ——负责把「知识库里」的最佳 operator 真正部署到目标应用里:定位热点 → 用知识库锻造 app-specific operator → 用应用自身的正确性检查验证 → 注入集成 patch。
这一段没有人类在中间做「翻译」,所以 README 里称其为 a system that closes the loop from automatic research to automatic deployment —— 在中英文媒体语境里也被称作「全球首个」Stencil 优化 AI 系统(36 氪报道、AIbase 报道)。
实测数据:100 个真实应用、几何平均 2.05×
数字比形容词更说明问题。以下均直接摘自 OpenBMB/ForgeStencil 的 README 与运行结果注册表,每一条都声称可由 run_e2e.py 从零重跑出来。
端到端(100 个真实应用 vs 各应用自身的生产 GPU 代码):
| 指标 | 数值 |
|---|---|
| 中位数加速 | 1.41× |
| 几何平均 | 2.05× |
| 区间 | 0.998× – 97.7× |
| ≥1.05× 占比 | 89% |
| ≥1.20× 占比 | 73% |
| ≥1.50× 占比 | 43% |
| ≥3× 占比 | 21% |
| ≥10× 占比 | 7% |
Operator 层(同精度 vs 最强现有基线 Halide / Devito / EBISU):几何平均 ≈ 2.16×(32 个 case 中 32 个领先)。在 star_1 上的 fp16-vs-fp16 严格同精度对比里也拿到了 1.75×。
真实软件场景加速(AIbase 整理 与 README):
- hypre 通用结构多重网格求解器:3.86×
- gprMax / FDTD 电磁仿真:2.47×
- minisweep 核反应堆中子学输运:最高 5.78×
- RTM 油气地震逆时偏移:1.81×
- Total minimod 地震 mini-app:1.22×
- QuantLib 债券定价:1.82×
- 非笛卡尔 MRI 重建:2.45×
- 数字乳腺断层重建反投影:1.63×
按项目方说法,约 42% 的优化直接对应真实工业负载(油气、医疗、气象等)。
跨 GPU 世代也成立:A100 → H100 → B200
ForgeStencil 另一个值得高看一眼的设计是跨 GPU 世代的可移植性。kernel/ 库带了 sm_80 / sm_90 / sm_100 的运行时 dispatch,README 做了一个完整的 A100→H100→B200 cross-generation study:
- A100 → H100:硬件带宽 +1.68×,内核「到了 H100 还是带宽饱和」(DRAM 77–90%),几乎不需要重写——vs Halide 的几何平均还从 2.16× 涨到 2.38×。
- H100 → B200:带宽再多 2.4×,但相对内存发射速率富裕很多,kernel 反而摔出 roofline(DRAM 78–90% 跌到 44–65%),需要做「重锻造」打补丁:例如 box_1 加结构性 deep-prefetch 后,512³ 上 +7.0%、1024³ 上 +5.1%。
这件事听起来无聊,但对工程团队很重要——绝大多数「内核优化」一旦硬件迭代就报废,README 里把「哪一步做了哪些 patch、为什么有效」摊在阳光下,是个加分项。
怎么验证这些数字不是注水
我比较在意的两个怀疑点,README 里都有正面回应:
- 基线不是 cherry-pick:基线就是各应用自带的、已经被生产环境使用的 GPU 实现,不是简化版 toy 代码;测量时原版和优化版跑在同一个二进制里、同一个开关切换、原版路径逐字节与上游相同。
- 正确性是应用自带的检查:不引入新的正确性判据,直接调用应用自身的内置 check(多数 bit-exact),并用应用自身的计时器;10 个 round 取中位数。
- 不能 bundle 上游源码:每个集成包只提供 provenance + fetch 脚本 + patch,不重分发任何第三方源码,许可证层面干净(Apache-2.0)。
所以「某某应用加速 N×」这种数字,是可以在干净 A100 上、关锁时钟、用应用自带测试套件复跑的。
我的看法:把「AI4Science」做成产品的正确姿势
我对「AI for Science」赛道一直有两个观察:
- 论文里给的 speedup 到工程落地要打两三折,因为很少有人愿意承担「把代码真的塞进编译里跑一次、确认数值结果不崩」这种脏活;
- 即使能做到,依赖特定的 LLM 推理栈 + GPU 内核专家 + 领域科学家三方协作,也很难横向 scale。
ForgeStencil 把第二点打掉了一半:Kernel Agent 和 App Agent 共享一个 operator 知识库,多个 App 可以复用同一段锻造经验,任何 HPC 用户给一个目标 app,就能拿到端到端 patch。
同时必须泼一盆冷水:
- 100× 这种爆发性加速,主要来自应用代码里「结构性的」headroom(过多小 kernel launch、低 occupancy、step-by-step 同步),并不是「内核速度」本身——官方自己也强调「速度提升很大程度上取决于上游有多少优化空间」。
- 对已经高度调优的代码,README 给出 sw4lite 1.00×、hpgmg_fv 1.02×、cloverleaf 1.01×,说明你拿到的加速是上限可观,但下限也常常只有 1×。
- 这套方法对 GPU 依赖强——CPU-only 的少量应用被列为 research 而非 validated。
所以呢
给 HPC / 工业仿真 / 核能 / 油气 / 医疗影像团队:直接 git clone https://github.com/OpenBMB/ForgeStencil,按 README 在自家常用 app 上跑一遍,看哪些真的能稳定拿到 2× +、哪些只是 1× parity——这个 repo 投入工程精力测一下,是值得的。
给做 LLM Agent 的同行:值得借鉴的是它把 Agent 闭环做在「代码能否通过编译 + 单元测试 + 性能基准」这种硬指标上,而不是在论文图表里吹一遍。把 benchmarks / correctness check 当成一等公民放进 harness,是 Agent 工程化的关键一步。
参考:
- 项目主页:OpenBMB/ForgeStencil
- 中文报道:36 氪
- 英文报道:AIbase