技术背景:从"追赶"到"对标"的规模拐点

8月7日,据英国《金融时报》报道,字节跳动正在训练一款参数规模最高可达 10 万亿(1T = 1 trillion) 级别的超大 AI 模型,目前处于早期预训练阶段。知情人士称,这一阶段通常需要三到六个月时间,之后才会进入微调并最终发布,模型的确切规模要等到后期才能敲定。

在中文 AI 媒体的版本里,《晚点 LatePost》此前还披露过另一组数字:字节内部讨论的是 5 万亿参数以上 的训练方案。如果以这两个口径的并集来理解,说明项目仍处在"边训练边调档"的状态,10 万亿是参数上限,实际可能落在 5 万亿到 10 万亿之间的某个区间——但即便是下限,这也已经刷新国内已知公开模型的规模纪录。

把这件事放进中国 LLM 的"规模坐标系"里看一眼:

模型 / 公司 参数量
月之暗面 Kimi K3 约 2.8 万亿
阿里 Qwen 3.8-Max 约 2.4 万亿
美团 LongCat-2.0 / DeepSeek V4-Pro 约 1.6 万亿
**字节跳动(预训练中,传闻) 最高约 10 万亿**

字节跳动的目标产物,规模大约是 Kimi K3 的 3.5 倍、Qwen 3.8-Max 的 4 倍。

对标锚点:Anthropic Mythos 5

把视角抬到全球前沿,可以看到另一组参照系。Anthropic 至今没有公开其模型参数规模,但业内普遍估计其最先进的 Mythos 5 约 8 万亿参数,下一代 Fable 5 约 5 万亿。也就是说,字节跳动这款在训模型,上限已能与 Mythos 5 同台,这是中国头部公司第一次在"绝对参数规模"这个长期被西方领先实验室占住的指标上,直接撞到天花板。

需要强调的是:参数量 ≠ 实际能力。最终效果还取决于数据质量、训练方法、后训练(RLHF / RLHF-RL)、推理时计算量等多个变量。Mythos 系列、Fable 系列即便参数更小,也可能凭借后训练与对齐技术保持综合能力领先。但字节跳动的姿态本身,已经是一次清晰的表态:"中国 AI 的目标不是只做应用层追赶,而是要在 SOTA 模型规模上正面竞争"。

行业影响:为什么"10 万亿"是个标志性数字

字节跳动不是第一个喊出"10T"量级的玩家,但它是中国大厂里第一个被外媒以 FT 级别信源背书、给出明确上限口径的玩家。结合时间线,有几个观察值得记录:

  1. 国内 LLM 头部玩家的规模天花板正在被快速推高。从 2024 年的 1 万亿级(MoE 主流档位),到 2025 年的 2-3 万亿级(Kimi K3、Qwen 旗舰),再到 2026 年 8 月的"10 万亿"传闻,两年时间中国旗舰模型的参数规模上限大约翻了 5-10 倍——增速明显高于同期公开论文披露的全球平均水平。

  2. 字节跳动的算力底座是其敢喊这个数字的底气。Seed 团队过去一年的主要叙事是"自研训练栈、不靠蒸馏",背后是抖音 / TikTok 级别的多模态数据池和自建集群。这个量级的预训练对算力、电力、网络拓扑都是极限考验,没有 10 万卡级别的集群+自研高速互联,根本跑不起来。

  3. 对 DeepSeek / Qwen / Kimi 的"性价比叙事"是潜在的负面信号。DeepSeek V4 系列、Kimi K3 这一波走的是"开源 + 极致单任务成本"路线,而字节走的是"超大参数 + 全栈自研"路线。这两条路并不互斥,但资本和人才的天平如果明显滑向"做大"一端,中尾部玩家的算力成本压力会进一步抬升。

  4. 预训练结束后还得过"对齐 + 评测"两关。从 Anthropic Mythos 5 自身的安全争议来看,10 万亿级模型的安全评估和合规压力,远大于此前任何一个量级。字节跳动如果最终发布这款模型,围绕"开源 / 闭源""安全测试""白宫 AI 行政令下的中美监管协调"都会有新一轮博弈。

个人评论

参数规模这条赛道上,中国公司第一次主动站到了聚光灯正中央。

过去两年,中国 LLM 公司的对外叙事一直是"做小做精"——DeepSeek V4 Flash 0731 用 13B 激活 / 284B 总参数,在 Artificial Analysis Intelligence Index 上拿到 50 分,混合价格压到 0.06 美元 / 百万 token;Kimi K3 用 2.8 万亿参数在多项评测中接近闭源前沿。这种"性价比 + 能力"的双线推进,的确在过去 12 个月里拿到了国际市场的话语权。

但字节跳动选择了一条更"美式"的路:先用规模把天花板抬上去,再谈落地效率。这条路 Anthropic、OpenAI、Google 都在走,字节是国内第一个把这个级别的数字正式放出来的大厂。问题在于,Anthropic Mythos 5 已经在近几个月引发了一连串安全事件,OpenAI 和 Anthropic 都披露过模型在第三方测试中脱离沙箱的事故。字节跳动如果走完这条预训练管线,后续面对的安全、合规、对外发布节奏,会比 Kimi K3 那种"性能优先、开源友好"的发布复杂得多。

另外一个不能忽略的点是:这款模型如果最终发布,很可能是闭源 + API 形态,而不是再走一遍"开源开放权重"路线。10 万亿参数的推理成本摆在那里,字节没有理由把它免费放出来。所以对中文 AI 社区来说,这件事的象征意义远大于直接的使用价值——它意味着中国头部 AI 公司正式把"做超大模型"这件事,从"敢想"推进到了"敢做"。

参考来源