流式视频的智能体已经能"边看边答"了,可一旦画面里该看的东西暂时没出现、用户的问题又含糊其辞,模型就卡在两难:继续等,等到没完;直接答,答案大概率是幻觉。中科院自动化所、北京智源等机构发布的 AskStream 基准(论文原文)把这个两难摆到了台面上,并给出了一个新答案:主动交互不该只有"等"和"答"两种动作,还得有第三种——问。
从"等"和"答"到"等、问、答"
论文的出发点很朴素。现有主动视频理解默认了一个前提:回答所需的信息最终会在视频里出现。于是模型只需在"继续等"和"给出答案"之间二选一。可现实场景经常打破这个前提——镜头始终没拍到被遮挡的物体,用户只说"提醒我那个人出现"却没说清是谁。这种时候等待不会带来新信息,硬答只能编。
AskStream 把动作空间扩成 wait、ask、answer 三类,并把"不确定性"拆成两个来源。视频不确定性包括关键视觉证据缺失、视角信息缺失、个体概念缺失和个性化动作概念缺失;用户不确定性包括问题歧义、问题前提错误、用户偏好缺失和偏好冲突。四类任务、八个子任务。
438 个视频和 2714 个动作窗口
基准规模不算大,标注却下得很重:438 个视频、1401 个问题,覆盖 9 个领域,视频时长从 16.72 秒到 118 分钟不等,平均每个视频 3.2 轮交互。作者标的不是单个时间戳,而是"有效动作窗口"——wait、ask、answer 三类窗口的累计时长分别是 33.92、30.47 和 12.00 小时,共 2714 个人工标注的帧级时间戳。标注可靠性也做了检验:抽 160 个样本由两名标注员独立重标,ASK 窗口的平均时序交并比 0.962,ANSWER 窗口 0.971。
评测分选择题和开放式两套。开放式由 Gemini-3.8 Flash 当裁判,作者随机抽 300 轮找人工复核,裁判与人工共识的一致率 93.50%,而且对 Gemini 自己生成的回复(93.75%)和别家模型的回复(93.27%)看不出明显自偏好。
离线 52.18%,主动流式模型 7.22%
分数是最扎眼的部分。论文的选择题评测里,离线闭源模型中 Gemini-3.8 Flash 的 Ask-F1 总分最高,为 52.18%,其中"问"的子分 44.63%、"答"的子分 62.80%;GPT-5.6-Sol 是 20.50%,Claude Sonnet 5 是 22.48%。开源离线模型整体更低,MiMo-V2.5 14.66%、Kimi K2.6 16.52%、Qwen-3.8 Flash 17.60%、DeepSeek-V4.1-Flash 19.69%。
真正尴尬的是那批带主动能力的流式模型:论文评测中 MOSS-VL-Realtime、MMDuet2、VideoLLM-online 大量子任务直接记 0,MiniCPM-o 4.5 是 0.12,TimeChat-Online 4.18,JoyAI-VL-Interaction 4.91,其中分数最高的 AURA 也只有 7.22%。换到开放式设置,Gemini-3.8 Flash 掉到 29.19%,AURA 只剩 4.01%。论文的判断很直白:这些模型不是不太会主动,是不会"问"。
真正的瓶颈是"何时问"
论文用两组消融,把"问"的两个维度拆开看。
第一组是 oracle 实验。在关键视觉证据缺失任务上,只要把"什么时候该问"的正确答案告诉模型,Ask-F1 就从 37.17% 涨到 58.30%,涨了 21.13 个点;同时给出"何时问"和"问什么"两项信息,整体增益论文报为 43.83%↑。也就是说,缺的主要是时间判断,不是措辞。
第二组是提问预算。把允许提问的次数从 1 一路放宽到 16,分数一路涨,但在 52.35% 附近就饱和了。多给提问机会,并不能替代"知道该问"。
还有个容易被忽略的细节:作者先做了模糊实验,验证追问本身有没有价值。画面被模糊后模型准确率 42.3%,模型主动索要并拿到正确证据后升到 62.3%,已经接近完全清晰画面下的 63.1%;但补进来的若是不相关证据,收益就基本没有。真正有用的不是多看几帧,而是拿到与当前问题匹配的信息。
记忆结构也被单独算了账。用分层记忆框架 StreamHarness(保留最近 10 帧、每 10 帧压一条中期记忆、每四条中期记忆合并成一个长期记忆块,最多留八个)时 Ask-F1 是 52.18%,换成只留最近 10 帧的滑动窗口掉到 41.70%,均匀采样 128 帧只有 26.72%,64 帧 16.99%。
这个基准在提示什么
AskStream 有意把难度做高:所有模型都在"看不清"或"说不清"的前提里被测,评测每秒给一次动作机会,容差 ±1 秒。论文自己也列了四条局限——每轮只允许一次追问、只覆盖流式视频理解而没涉及具身智能体、每段交互都由明确的用户提问触发、真实场景的不确定性会跨越更长的时间尺度。
但这套设计指向一个行业里容易被跳过的环节。"知道什么时候该问"这件事,现在几乎没有模型做得好:离线强模型也只拿到一半出头的分数,而真正为实时交互设计的流式模型基本交白卷。
流式视频的下半场,看起来不在"看得更清",而在"知道自己没看清"。AskStream 把这个能力量化成了一道 52.18 分的门槛——而主流流式模型离及格线还远。下一次这类榜单刷新时,值得看的可能不是谁的分数又涨了,而是哪个模型第一次敢在正确的时刻开口问一句。