一台 12GB 显存的 RTX 5070 加 64GB 内存，就能以每秒 94 个 token 跑一个 1250 亿参数的开源模型——这是开源项目 Strata README 写明的自测数字。9 月 24 日第一行代码，两周 845 次提交攒下 10.9k star，专做一件事：把 Qwen3.8-Flash-Next 搬进游戏 PC，推理全程数据不出本机。

门槛和速度：一张游戏机的配置单

按 README，显卡只需 RTX 20/30/40/50 系或 AMD RX 7900/9070 等主流游戏卡，12GB 显存起步，内存 32GB 起、64GB 跑全部档位；启动载入 35-55GB，首启 1-3 分钟整机可能卡顿。

作者两台游戏 PC 实测：RTX 5070 上最激进的 Q2_0 档写出 94 token/s、读 32K 文档 2650 token/s；质量更高的 IQ3_S 为 53 token/s；AMD RX 9070 XT 上 Q2_0 为 60 token/s；RTX 3090 预计 100-140 token/s（推算）。上手：AI 助手照 docs/AI_SETUP.md 代装，或走 127.0.0.1:8080 的 OpenAI/Anthropic 兼容接口接入现有应用。

v0.1.39：解码快 6%，输出一个字节都不变

10 月 4 日的新版里，解码重构（sub-warp 专家打包、PLE/MTP 合并批处理）让 RTX 5070 上 Q2_0 从 68.4 提到 72.7 token/s（约 +6%），IQ3_XXS 提升 2.5%-6%，4K/32K 长 prompt 后的解码再快 5%-7%——而四个量化档各 10 组对照下，输出与 0.1.38 逐字节相同。量化"差不多就行"的本地推理圈里，这种纪律相当少见。

长 prompt 收益更大：32K 下 IQ3_XXS 提速最高 18.5%（1500 槽专家缓存），243K token 输入在 RTX 3060 上快 26%。多卡上，双 RTX 4090 混合负载 +63%、代码 +132%（贡献者自测）；四张 16GB 卡跑 8 路并发总吞吐 360 token/s 对单路 120。Responses API 已实现，Codex CLI 0.160.0 实测可用，后续轮次约 96% prompt 命中缓存。

显存放不下，就把专家搬进内存和 SSD

Qwen3.8-Flash-Next 是 MoE 架构，每 token 只激活一小部分专家，Strata 把放不进显存的专家权重摊到内存和 SSD，按需流式喂给 GPU（streamed expert ring、--prefill auto 即此）。档位拉开空间：砍一半专家的 Coder 版只需 32GB 内存，官方自测达完整模型 SWE-bench Verified 的 91%；Swift 1.5 思考更短出答案更快；Unsloth UD-IQ4_XS 约 4-bit 质量更高，代价是 94GB 下载。

冷水也得泼

94 token/s 是最激进的 Q2_0 档，追求质量的 IQ3_S 掉到 53；Coder 版官方标注在中文等 CJK 文本偏弱，中文用户应选保留全部专家的档位；Pascal/Volta、Intel Arc 与老 AMD 路径全是社区自测的实验特性。

两周的迭代节奏加上这种纪律，给本地推理立了很高的工程标杆。云 API 定价和配额还在反复横跳的当口，一台游戏机加 80GB 磁盘就是你的退路——这条路现在真的通了。