塔吉克语是塔吉克斯坦的官方语言,用西里尔字母书写,其中有六个字母连俄语都没有。开源模型的支持语言列表里几乎见不到它——直到上周五,杜尚别的 Saidzoda AI Lab 把 Saidzoda-Tajik-LFM-2.6B 挂上 arXiv:一个专门做塔吉克语工具调用的 2.6B 模型,附带 12 页技术报告。呼叫中心、政务窗口、银行系统想要的本来就不是聊天,而是把一句塔吉克语请求变成一次正确的系统调用——这正是它的定位。
配方:两阶段 LoRA,3 张 H100 跑 47.1 小时
基座是 Liquid AI 的 LFM2.5-2.6B-Base(短卷积 + 分组查询注意力的混合架构)。第一阶段 LoRA 持续预训练(CPT):1,485,319 篇清洗后的塔吉克网页文档,3 个 epoch、17,574 步,每步 96 条 4,096 token 的打包序列,3 张 H100 共 47.1 小时,训练损失从 6.615 降到 1.662。第二阶段 SFT:机器翻译的塔吉克语工具调用、61,798 行保留原文的英文工具调用(回放)、塔吉克语指令,按 40/35/25 配比只跑一个 epoch,全程用 axolotl 训练。
结果:塔吉克语 20.69 到 64.14,英文不掉
测试集是自建的 174 题 BFCL v3 塔吉克语翻译版(89 道单调用、27 道并行、29 道无关、29 道多轮)。严格全调用准确率:基座英语 76.55%,同样请求换成塔吉克语只剩 20.69%;适配后塔吉克语拉到 64.14,配对提升 +43.45 个百分点(95% 区间 +35.2 到 +51.7),英文 77.24 基本不动。宽松 parser(也接受基座自己的调用格式)下基座是 31.72——差距真实存在,口径一换就小了不少。
代价:CPT 把工具调用打到 0.00,模型几乎不会说「不」
最有信息量的发现在分阶段测量里:两个 CPT checkpoint 的严格得分全部是 0.00。在原始网页文本上继续预训练,把基座原生的工具调用格式整个抹掉——宽松重打分显示,一部分技能本身也跟着丢了。SFT 靠英文回放把格式和英文技能一起救回来,但账单不短:英文 MMLU 从 60.8 掉到 52.5;工具不适用时正确拒绝的比例,塔吉克语从 89.7 崩到 6.9,英文也从 62.1 掉到 31.0——它现在几乎逢请求必调工具;多轮调用仍弱(3.45 到 17.24)。模型卡直接写明:它的调用应该在执行前被检查。收益侧,塔吉克语知识基准从 28.0 涨到 35.0,Belebele 阅读理解 37.6 到 40.0、无显著变化。
所以呢
论文自述「据其所知,这是首个公开发布并附带技术报告的塔吉克语工具调用模型」——作者检索过 arXiv 与 Hugging Face Hub,2026 年 10 月未发现同类。对长尾语言社区,这套样板比模型本身值钱:数据来源、配置、算力、训练日志、每一步评测全公开,eval_results 原始文件随仓库放出;权重是 5 GB 合并 bfloat16,LFM Open License v1.0,商用受营收门槛限制,下载要先在 saidzoda.com 填表;算力来自 NVIDIA Inception 计划;模型卡致谢里也写明 Anthropic Claude 参与了脚本与文本草拟、作者核过每个数字。更通用的一课:给小模型注入新语言不是「翻译数据微调」那么便宜——CPT 会先把指令与工具格式清零,英文回放是那条护栏;而教会它调工具的另一面,是「教会它别乱调」这课还没上完。低资源语言想要 Agent,先想清楚谁来看住那个 6.9%。
引用:arXiv:2610.41576 · HF 模型卡