腾讯混元 MC-Sparse:无重训 1.8 倍稀疏加速
腾讯混元把扩散 Transformer 的稀疏注意力问题拆成 3 块,training-free 方案在 MiniMax-H3-Base 上做到 1.80 倍去噪加速、3D 资产 2.32 倍加速,画质几乎无损。
腾讯混元把扩散 Transformer 的稀疏注意力问题拆成 3 块,training-free 方案在 MiniMax-H3-Base 上做到 1.80 倍去噪加速、3D 资产 2.32 倍加速,画质几乎无损。
腾讯混元把扩散 Transformer 的稀疏注意力问题拆成 3 块,training-free 方案在 MiniMax-H3-Base 上做到 1.80 倍去噪加速、3D 资产 2.32 倍加速,画质几乎无损。
新加坡国立大学推出 Learn2Play Bench,用 20 个规则全新的文字游戏测智能体不改权重、靠交互学规则的能力。Claude Opus 5.5 平均分 61.0 反超人类 Top-1 的 53.5,峰值 80.1 仍输人类最高的 84.3;固定模型只换 harness,Opus 5 峰值还能再抬 7 个点。
bnb 不支持 MoE,近几代开源模型的本地训练停滞。woct0rdho 开源训练配方,把低显存 LoRA 基座换成 GGUF:Strix Halo 上 40 GiB 显存训 Qwen3.8-Flash-Next 125B,200 token/s;90 GiB 可训 284B DeepSeek-V4-Flash。
西湖大学与蚂蚁的 SparseDecoding 点破 LLM 剪枝盲区:校准用自然语料,解码却吃自生成 token,分布错位拖垮剪枝模型长文质量。改用自回归生成校准后,2:4 稀疏 Qwen3-14B 写作分从 1.85 升至 4.18;bitmask SpMV 内核让 A100 解码提速最高 1.48 倍。
MirroS-Lab 在 arXiv 发布 AgentGarten:模拟器与游戏引擎维护状态和规则,共享神经渲染器把深度图和法线变成智能体看到的画面。智能体 4 轮经验即学会核心策略,对照组 RL 需要百万轮。渲染器代码和权重已开源,训练循环未放出。
微软发布 Microsoft-Decision-1,基于 Qwen3.5-9B 后训练的单遍决策打分模型,对固定选项返回校准概率,用于路由、护栏、AI 评判等 agent 场景。官方 36 项盲测基准称准确率居首,比 GPT-6 Sol 快 35 倍;输入每百万 token 0.042 美元,输出免费。
小米把MiMo-V2.6的RL后训练账本全摊开了:Pro版花260万美元、每步吞27-37亿token,换来DeepSWE从58.4涨到72.6。论文还给出评分器算力占比、防作弊的hack agent机制和7k任务开源环境包,把"规模化RL"从口号变成可复算的工程问题。
CrowdStrike 报告韩国银行被 AI 攻击:ARTEX 串联 Claude Code、DeepSeek v4.1-flash、GLM-5.3、Grok 4.6 四套大模型;会话日志意外公开,泄露攻击者姓名、手机、Telegram、城市。agentic 调用日志已成新取证通道,LLM 攻击者多模型栈是标配。
Google 宣布 10 月起调整 Gemini 应用模型权限:免费用户 10 月 9 日起只能使用 Flash-Lite,AI Plus 失去 Pro 权限,AI Pro($19.99)首次获得 Deep Think「最大并行推理」能力,此前仅 AI Ultra($99.99/$199.99)可用。
xAI 发布 Grok Imagine Video 1.5 Lite,这是旗舰视频模型的蒸馏版。1080p 定价 0.14 美元/秒,比 Veo 3.1 含音频版便宜 65%,在 AA 视频榜排名第 17,比 Veo 3.1 高两位。
Project Suncatcher 原型卫星入轨,搭载 4 颗 Trillium TPU 运行 Gemma 开源模型,因真空热管理约束每次仅跑 15 分钟。任务搭 SpaceX Transporter-18 升空,与 Planet 合作,验证芯片在太空辐射与振动下的存活能力,为激光互联多星组网铺路。
token 级路由有了专用推理引擎。清华团队的 TokenRouter 给每个模型独立 subserver,只传 token 后缀与路由状态,KV 缓存不动,再用 delayed-batching 攒批。五种路由算法、多组模型上,解码吞吐较现有系统最高提升 64.15 倍,NeurIPS 2026 接收,代码开源。
JetBrains 10月8日发布编码模型 Mellum2.1:架构沿用 12B MoE、激活 2.5B,变化全在后训练——数千真实环境累计数百万次沙箱强化学习,模型学会探索代码库、改文件、自查改动。官方称单张 H200 吞吐接近 Qwen3.5-9B 两倍,MTP 再提速约 1.6 倍,Apache 2.0 开源。
小米 MiMo-V2.6-Pro-UltraSpeed 用与标准版相同的 1T 参数权重,通过推理侧加速把输出速度拉高约十倍,价格也定在十倍。本文拆解「速度层」定价:同 checkpoint、同 1M 上下文,变的只是 batching 与投机解码等服务端工程,对批处理任务不值,对交互式 Agent 循环却可能值。
NeurIPS 2026 论文把 agent 提示词压成最小对比句对:把 write 换成 discuss,一个动词就稳定翻转模型是否调用工具的决定。研究定位到因果充分且必要的决策向量,机制在 Qwen、Mistral、Granite 七个模型上复现:脚手架建立调用先验,分析动词通过「无需用工具」特征抑制它。
arXiv 2610.10533 提出的 EngramEdit,在 DeepSeek Engram 条件记忆架构上做事实编辑:无需重训 Transformer 主干,实现近 100% 编辑成功率,在 CoT 多跳推理中准确率是最强 baseline 的近 3 倍,且不破坏无关知识与通用能力。
CrowdStrike 10 月 7 日披露韩国金融机构遭 AI 代理入侵详情:开源工具 ARTEX 配合 Claude Code 等模型窃取数据,攻击者不慎把个人简历信息固化为会话上下文,在开放目录上被直接读出。
Anthropic 10 月 8 日启动 Cyber Mission:Claude 进 OT 防御链,联合 Accenture、CrowdStrike、Dragos 等 11 家;OSS Scanner 对标 OSS-Fuzz 免费给开源项目跑漏洞扫描,目标真阳性率 90%。
普林斯顿等机构在 arXiv 发布 Recurrent Looped Transformer:网络层拆成并行编码器与循环解码器,计算路径随序列增长而单 token 成本固定。仅在 40 位奇偶序列上训练,256 位测试全种子 100% 准确,同规模 Transformer 停在 50%;消融显示增益完全依赖反馈通路。
浙大团队提出 STEPQuant,对 Delta-rule 循环状态做时空双维量化:按误差寿命分配比特,key 行与 value 列分别拟合 scale。Qwen3.8-27B 上 6-bit 贴平 FP32,4-bit 胜均匀 INT8;集成 SGLang 后状态压缩超 5 倍,总显存最多降 68.7%。