用户模拟器一直是推荐系统的老大难:光判断"下一步会不会点"没用,得看模拟出来的用户能不能扛住长链路,最后还得上线 A/B 才对得上账。10 月 22 日,阿里集团联合莱顿大学、中国人民大学、中科院计算所在 arXiv 放出一篇论文(UserArena 原文),把这件事做成了一张可以公开检验的考卷。
家底:64,729 条真实购物轨迹
论文称数据来自"亚洲某大型电商平台"(平台名未公开),作者单位里明确挂着阿里集团。规模是:11,010 名用户、64,729 条会话轨迹、577,670 个动作、566,102 个商品、6 个用户属性字段,点击覆盖 41 个品类;其中 73,717 次商品点击里服饰占 54.90%,剩下 45.10% 摊在另外 40 个品类上。长链路部分另切出 59,378 条按时间排序的会话,来自 5,768 名用户,人均 10.29 次会话、86.36 个动作。对照组 OPeRA 是 51 人 527 次(人均 1.00 次),USB 是 5,222 人 5,274 次(人均 1.00 次)——这才是"跨会话"该有的量级。
数据本身也不靠爆款撑:67,267 个被点过的商品里 92.0% 只出现一次,最热的前 1% 商品也只占 3.23% 的点击。动作分布同样真实,feed 页下滑占 38.34%,商品点击 12.76%,会话结束 11.21%,加购 3.90%,下单 1.02%。许可写得很死:仅限非商业研究,禁止反识别用户、禁止与外部个人数据关联、禁止未授权再分发;界面截图是离线 React 环境重建的,不含真实用户 GUI 画面。代码与数据在 GitHub 的 RecGPT-Team/UserArena。
五级评测:从"能解析"到"复现线上"
评测分五层:环境合规(L0)、局部行为保真(L1)、序列行为保真(L2)、个性化人群保真(L3)、结果保真(L4)。配套两种跑法:Replay 用录好的状态预测下一动作,看局部准不准;Rollout 让模拟器自己往下跑,看整段轨迹像不像。L0 两种都跑,L1 只在 Replay 下评,L2 到 L4 全在 Rollout 下评。
OPTD:在学生自己的轨迹上蒸馏
论文点了两条老路的毛病:SFT 只学录好的回答,存在训练测试错配;GRPO 给整条回答一个标量奖励,信用分配太粗。OPTD 换了个位置——学生自己 rollout 出来的每一个 token,都拿冻结教师在"轨迹级意图"这个特权上下文下的全词表分布当监督目标;再用逐 token 的信任域(按 KL 预算挑插值系数)把教师拉回"只看得到学生可见状态"的参照附近,另加一项接地损失对齐录好的真实回答,GT 系数 0.1。消融实验里去掉任一组件都会掉分,去掉 SFT 预热掉得最狠。
论文自己测的一组数字:2B 跑赢 GPT-6
论文自己做的生产 A/B 校验最狠:同一对排序策略,分别在模拟器和线上真实 A/B 的对照/实验组里跑,比较 ΔPV-CTR 的"模拟值 ÷ 线上值"。OPTD 是 0.713×(误差 0.287),明显好过第二名 STA 的 0.297×;其余任务型模拟器把线上效果压到 0.020×~0.297×,没微调的 Qwen3.5-2B 只有 0.004×。反方向的是 GPT-6-Sol 的 1.576× 和 GPT-6-Luna 的 2.154×,高估了线上反应。论文由此下的结论是:通用大模型的容量,不等于行为校准能力。
跨会话那张表里,OPTD 在 L1 到 L4 的八个指标中拿了五项第一、两项第二:DM-JSD 0.0284、轨迹长度误差 0.72、人群保真 PF 0.8929、终态 T-JSD 0.0077;macro-F1 和 ΔCTR 是 STA 领先。作者还做了图灵测试式人工评测:200 对真实与模拟轨迹、每对 3 名标注者、来源盲化且打乱顺序,OPTD 的"人类赢率"最低、"模型赢率"最高。
但这张榜单现在是空的
有个细节值得单说:项目页的 leaderboard 写着"暂无已验证的 SOTA 分数,只收录完整的 Replay 与 Rollout 报告,不预估任何分数"。数据集本身也还标着"计划中",GitHub 仓库只有 3 次提交、3 个 star。想复现,基本得自己动手。
所以呢
这份工作真正的价值,可能不在"又一个 benchmark",而在于它把"模拟器准不准"这个长期靠感觉的问题,换成了"能不能复现线上 A/B 的效果比"这个可证伪的指标。一旦这么问,2B 的专用小模型压过 GPT-6 就不奇怪了——模拟用户要的是行为分布对齐,不是知识量。而榜单留空、数据待发、非商用许可,也说明它眼下更像一份评测协议,而不是一份拿来就能用的资源。