Meta 开源 816B MoE 模型 Muse Spark Open,跑在两台 Mac Studio 上

Muse Spark Open 是 Meta Superintelligence Labs 在 10 月 15 日释出权重的开放版本,把上一代只在云端和 API 后面的旗舰多模态模型直接搬到了桌面。稀疏 MoE 结构:总参数 816B,每个 token 推理时只激活约 42B,单次推理算力开销比同档稠密模型低一个数量级。上下文窗口 100 万 token,可以一整本中型代码仓库喂进去不丢上下文。

为 Apple Silicon 重写了一遍

最大看点不是参数规模,而是它能在两台 Apple M5 Ultra Mac Studio 上跑起来。Meta 直接用 Apple 最新 MLX 框架重写推理路径,榨干 Apple Silicon 的统一内存架构。M5 Ultra 集成 GPU 最多可挂 512GB 统一内存,带宽 1.2 TB/s。两台机器并联,逻辑上相当于一台 1TB 统一内存的超级计算机,完整权重刚好装得下。Meta 测试了一组纯本地 Agent 工作流:用 Muse Code 驱动模型给开源 Mastodon 客户端 Ice Cubes 提交真实 iOS 改动——从 bug 修复到新功能到完整构建,也用它驱动 DaVinci Resolve 端到端运行,模型一帧一帧看素材、挑最强镜头并做竖版裁剪。这是端到端可交付的工程任务。

不止 Mac:同时铺了七个推理平台

不止 Mac——Muse Spark Open 同步上线七个托管推理平台:Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI;权重下载覆盖 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face。Meta 把主流推理引擎都跑了一遍:SGLang、vLLM、Apple MLX、llama.cpp、Unsloth,横跨 AMD、Apple、Intel、NVIDIA 四个硬件家族。SGLang 上,自定义 Helion GPU 内核对 NVIDIA 和 AMD 给出 1.03-3.95 倍 kernel 级加速,在 AMD MI350 上拿到 3% 端到端提速。TorchTitan 可直接再微调。

开源,但商用有限制

权重协议用 Meta 自定的 Muse Model License,带有限商用条款,部分开发者可免费用,但有商用门槛。安全层面 Meta 强调模型做了额外安全后训练,按 Meta Superintelligence Scaling Framework 走完评估,通过发布门槛。模型卡已发到 Hugging Face。

我的看法

Meta 把 816B 旗舰开放权重搬上桌面,真正意义不在 816B 这个数字,而在"云端旗舰"和"本地可跑"之间的距离被一次压平。前有 DeepSeek 把稠密旗舰打到消费级 GPU,后有 Meta 用 MoE + 统一内存 + MLX 把 800B 级别模型装进两台 Mac Studio。开源模型的"参数竞赛"已接近边际,真正的竞争点变成:同样规模谁能跑得便宜、跑在哪、谁来托管。Meta 把所有推理引擎、所有硬件家族一次性铺齐,显然不是做慈善,是在抢"模型可移植性"这块地——以后开发者选型,生态完整度会比单一 benchmark 跑分更重要。值得跟踪 MoE + 统一内存这条路能否压到消费笔记本级别,以及 Apple MLX 软件栈能否成为开源权重模型的标准分发渠道。