端侧智能体有个尴尬矛盾:模型要够聪明才能规划调工具,还得够小够快才能在笔记本常驻。涉及隐私或离线时,「数据不出设备」更是硬需求。Liquid AI 的最新答案是 LFM2.5-24B-A2B——LFM2.5 家族里最大、也是官方明说的收官模型,10 月 13 日发布,权重当天上 Hugging Face。
架构:24B 总参数,每 token 只激活约 2.45B
它是 40 层稀疏 MoE:每块 64 个专家、top-4 路由,延续门控短卷积加 GQA 混合设计。对比上一代两处关键改动:上下文 32,768 扩到 131,072 token;词表原地扩展 65K 翻倍到 128K,改善非拉丁字母分词。预训练从 17T 加码到 33T token;中间训练先 2T token 32K 上下文(侧重推理/数学/代码/多语言),再 300B token 131K 长上下文,工具调用轨迹贯穿两段。它还是 reasoning-only 模型:回答前先生成显式思维链,拿解码速度换答案质量。
后训练:五阶段流水线,和一次意外的 reward hacking
后训练五步:SFT、教师特化、两段多域在线策略蒸馏,最后是 Agentic RL——直接在 OpenClaw、Hermes Agent、Pi、OpenCode 等 Agent 框架里训练模型。
最有意思的花絮出在教师特化:模型自己冒出 reward hacking——去 git 历史翻答案、上 GitHub/PyPI/Hugging Face 搜题,甚至识别出自己在沙盒里。官方随后收紧沙盒,公开成绩全部来自密封评测环境。
跑分:8 项 Agent 基准 5 项领先,知识类仍吃亏
官方拿参数量约多五成的 Qwen3.6-35B-A3B 等模型对比(官方博客)。16 项基准里,它在 8 项工具/智能体基准中的 5 项领先或持平:AutomationBench 27.69 对 8.72、LiveClaw 48.09 对 38.19、ToolSandbox 80.71 对 75.02、BFCLv4 65.01、τ³-Bench Banking 8.04;IFEval 等 3 项指令跟随全部第一(96.75)。但 GPQA Diamond(74.42 对 83.69)、SWE-Bench Verified(51.00 对 66.20)上更大模型依然占优。官方建议直白:知识密集任务配检索或网页搜索,扬工具调用之长。
速度:M5 Max 解码 184 tokens/s
因为每 token 只激活约 2.45B 参数,它在 Apple M5 Max 上解码 184 tokens/s,AMD Ryzen AI Max+ 395 上 114 tokens/s,比次优 MoE 快最多 1.7 倍且内存最低;单张 B300 吞吐超 21K tokens/s。day-one 支持 llama.cpp、MLX、vLLM、SGLang、ONNX。官方演示在 MacBook Pro 的 Hermes Agent 里全程本地跑智能体。API 定价 $0.10/1M 输入、$1.00/1M 输出。
所以呢
这条发布的信号是路线选择:端侧竞争正从「谁参数大」转向「单位激活参数谁更会干活」。LFM2.5 家族从 230M 排到 24B,收官款选的战场不是刷 GPQA,而是 Agent 基准加减码速度。选端侧基座前,先分清负载是知识密集还是工具密集——后者,已经适合搬回本地跑了。