极简方案刷新扩散模型推理纪录，阿里清华论文入选ICML杰出论文
TL;DR · AI 摘要
阿里清华联合论文提出JustGRPO方法，通过强制顺序生成提升扩散模型推理性能，准确率超现有复杂算法。
核心要点
- JustGRPO方法使GSM8K测试集准确率达89.1%
- 任意顺序生成会导致'熵退化'现象，降低推理能力
- 强制从左到右生成比复杂算法更有效
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 扩散模型推理优化
- 核心发现
- 熵退化现象
- 任意顺序缺陷
- 解决方案
- JustGRPO方法
- 强制顺序生成
- 实验结果
- GSM8K 89.1%准确率
- 超越复杂算法
金句 / Highlights
值得收藏与分享的关键句。
在HumanEval任务中，从左向右顺序能解出而任意顺序解不出的题目占21.3%
JustGRPO方法训练完成后推理速度不受影响但效果大幅提升
强制从左到右生成比设计复杂算法更有效，类似'用右手练力量'的比喻
极简方案刷新扩散模型推理纪录，阿里清华论文入选ICML杰出论文 – 量子位
扫码关注量子位
<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
articlead begin
articlead end
极简方案刷新扩散模型推理纪录，阿里清华论文入选ICML杰出论文
量子位的朋友们
2026-07-06
18:33:45
来源：
量子位
摘要样式
7月5日，阿里巴巴与清华大学合作的论文The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models（灵活性陷阱：重新审视扩散语言模型中任意顺序生成的价值）入选AI顶会ICML杰出论文（Outstanding Paper），杰出论文是ICML最高荣誉，代表当年最具影响力的研究工作，通常只授予2-3篇，获奖率仅占接受论文的千分之一。
图说：2026年7月5日，ICML 2026主席团公布两篇杰出论文名单，阿里巴巴与清华大学合作的论文入选。
dLLM（扩散大语言模型）是当前最受关注的下一代语言模型架构之一，Google的Gemini Diffusion、中国人民大学的LLaDA等都属于这一方向。主流大语言模型（LLM）如GPT、Qwen等生成文本就像打字，从左往右逐个生成token，与LLM不同，dLLM在生成文本时可以任意选择生成顺序，无需从左往右，理论上拥有更大的生成解空间，在近一两年被寄予厚望。但这篇论文首次提出质疑：在解决数学、编程等通用推理任务时，任意顺序生成非但不能提升模型能力，反而会成为陷阱。
研究发现，不确定性高的关键逻辑节点（如“因此”“所以”），像是一个分叉口。若采用从左向右的顺序，模型必须在此处当场作出选择，生成下一个token，不能跳过。若采用任意选择生成顺序，模型会倾向于绕过这些难点，优先处理容易的部分。等回头再填充这些节点时，前后文已经确立，原本的推理分叉口变成了填空题——答案被上下文锁定了。
图说：从左向右的自回归顺序（a）迫使模型在每个逻辑分叉口做出选择；任意顺序（b）绕过难点，优先处理容易部分，导致推理路径被提前锁死。（图片翻译自论文）
选择权被悄悄消解，研究者将这一现象命名为“熵退化”。实证数据证实了这一现象：在HumanEval代码生成任务上，从左往右顺序能解出、而任意顺序解不出的题目占21.3%，反向仅0.6%。且顺序的自由度越大，推理性能越差。
基于这一发现，团队提出的解决方案是“JustGRPO”——意为在强化学习训练阶段放弃任意顺序，强制模型从左到右生成，使用GRPO就可以了。GRPO是一种主流算法，让模型对同一道题生成多组答案、通过组内优劣对比来优化策略。
此前，为dLLM设计强化学习算法面临一系列工程难题，比如生成顺序不固定导致无法准确归因每个词的贡献，各团队不得不引入各种复杂手段。“JustGRPO”则是一种大道至简的方法，类似于当所有人在给左手练力量，有人说：为什么不直接用右手？
“JustGRPO”训练完成后，模型推理速度不受影响，推理效果大幅提高。在GSM8K（业界衡量大模型推理能力的标准测试集，包含约8500道多步推理小学数学应用题）上达到89.1%准确率，全面超越d1、ESPO、SPG、GDPO等所有为扩散模型专门设计的复杂强化学习算法。
（附：论文下载地址https://arxiv.org/abs/2601.15165）
本文由阿里x清华提供，量子位获授权转载，观点归原作者所有。
版权声明
版权所有，未经授权不得以任何形式转载及使用，违者必究。
清华大学
阿里巴巴
作者文章列表
- 在联合国，这家中国公司给AI“减负”：不堆算力，而是给机器人装了个“类脑” 2026-07-06
- 2026新青年创投大会在沪举行：00后登场，创投新周期开启 2026-07-06
- 字节、宇树、BAT等40+产品大咖齐聚，2026奇点智能产品大会最新最全日程来了！ 2026-07-06
- 联想控股发起成立中国中文信息学会产学研创新生态工作委员会 2026-07-06
左侧分享
扫码分享至朋友圈
相关阅读 start
相关阅读
#### 阿里成了冤大头？？1亿美元收购的开源项目，核心团队出走造竞品，转头又卖了1个亿
鱼羊
2023-01-10
Apache Flink
开源项目
#### 阿里游戏升级为独立事业群，俞永福复出
与阿里大文娱平行
2020-09-18
俞永福
游戏
#### 丘成桐教授，不必动怒
网传“丘成桐动怒”？清华的数学人才，都去计算机了
木易
2020-10-24
丘成桐
#### 兵马俑跳《科目三》，贝佐斯跳二次元宅舞...阿里通义千问统统安排上了！
网友：闻所未闻，见所未见
十三
2024-01-04
AnimateAnyone
多模态大模型
通义千问
#### 触觉是怎么产生的？清华大学破解诺奖成果未解之谜，登上Nature
作者感叹生命过程与物理原理的交汇之美！
白交
2022-04-09
Nature
生命科学
诺贝尔奖
#### 清华优秀毕业生放弃留学上热搜！计算机系前10名中9人留校深造
留在国内始终是大部分人的选择
明敏
2021-09-17
毕业生
留学
相关阅读 end
热门文章 start
热门文章
#### 啥？做AI短剧可以免费，免费，免费了！
2026-06-29
#### 全球首个：隐空间世界模型，打通长时序双向物理因果链了！
#### 具身智能Skill时刻！英伟达开源机器人技能库，Jim Fan：范式变了
2026-07-01
#### Claude Mythos让梁文锋决定融资
#### 钉钉A1录音卡入选Gartner AI可穿戴设备报告
2026-07-02
<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索：</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>
热门文章 end
底部版权
- 关于量子位
- 加入我们
- 寻求报道
- 商务合作
<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>
追踪人工智能新趋势，报道科技行业新突破
<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1