语音智能体有一个绕不开的物理约束:人耳对停顿的容忍度大概只有几百毫秒。听、理解、决策、说话,每一环都在这个时间窗里抢预算。10 月 1 日,微软一口气发布三款语音模型,把「听」和「说」两端的延迟同时往百毫秒级压——流式转写模型 MAI-Transcribe-2-Streaming、语音合成模型 MAI-Voice-2.1,以及为高并发场景准备的 MAI-Voice-2.1-Flash。

先看转写:100 毫秒出「草稿」

MAI-Transcribe-2-Streaming 是微软首个流式转写模型,支持 60 种语言,带自动连续语言检测。它不等说话人讲完再出全文:收到音频 100 毫秒出头就给出第一版「部分转写」(partials),随后随上下文推进不断修正,并很快锁定稳定文本。官方宣称,它在 Artificial Analysis 流式评测里,最终转写与部分转写的准确率双榜第一,并位于精度-延迟权衡的 Pareto 前沿;内部评测显示,实时听写场景下文字上屏速度约为最接近竞争对手的两倍。定价为介绍价每小时 0.54 美元,有效至年底。

再看说话:一个声音走 23 种语言

MAI-Voice-2.1 是微软目前最强的多语言 TTS:覆盖 23 种语言、26 个 locale,同一个「声音」可以先说英语、再切普通话和德语,每种语言都带原生口音,而不是把一种口音拖过所有语言。价格是每百万字符 22 美元。Flash 版面向高并发、延迟敏感负载:可生成 45 秒音频,端到端延迟仅 150 毫秒,推理比同档模型快 55%、便宜约 60%,每百万字符 15 美元。两个语音模型都支持用几秒参考音频跨全部支持语言克隆音色,并内置防滥用的同意防护。

独立榜单交叉:第一之外还有第一

只看官方口径容易被「第一」带着走。直接翻 Artificial Analysis 的公开榜单:非流式总榜上,MAI-Transcribe-2 词错率 2.0%,排第三——前两名是中国厂商的 StepAudio 3 ASR 与 Fun-Realtime-ASR-preview,都是 1.7%。微软的「双榜第一」限定在流式评测口径内。不过代际进步是真的:上一代 MAI-Transcribe-1.5 词错率 2.4%、速度因子 194;这一代 2.0%、372,同榜价格从每千分钟 6 美元降到 1.67 美元,降约七成,速度接近翻倍。速度榜第一仍是 Deepgram 的 Nova-3(578 倍速),微软排第二。

所以呢:两端省下的毫秒,都是中间模型的推理时间

微软在公告里把语音智能体描述成一个循环:听、理解、决策、说,每个组件要么帮你省时间,要么花你的时间。这次发布的真正卖点不是某个单项跑分,而是把循环两端的固定开销压到百毫秒量级之后,留给中间大模型去推理、调工具、自查答案的时间窗就宽了。三款模型已上线 Microsoft Foundry、MAI Playground 与 Vercel,语音模型另可通过 OpenRouter 调用,LiveKit 支持即将跟进。对做语音智能体的团队来说,转写每小时 0.54 美元的介绍价已经把「实时听」的成本打到接近白菜价——真正的瓶颈,回到了中间那个会思考的模型身上。

参考:微软官方公告 https://microsoft.ai/news/our-first-streaming-transcription-model/ ;Artificial Analysis 语音转写榜单 https://artificialanalysis.ai/speech-to-text