Apple Machine Learning Research

Normalizing Trajectory Models

6.7内容质量

TL;DR · AI 摘要

Normalizing Trajectory Models - Apple Machine Learning Research research area Computer Vision , Methods and Algorithms c...

核心要点

  • 主题聚焦:Normalizing Trajectory Models
  • 来源:Apple Machine Learning Research,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#安全
打开原文

归一化轨迹模型 - 苹果机器学习研究

研究领域

计算机视觉

,

方法与算法

会议

NeurIPS

内容类型

论文

发布日期

2026年10月

归一化轨迹模型

作者 Jiatao Gu†, Tianrong Chen, Ying Shen‡**, David Berthelot, Shuangfei Zhai, Josh Susskind

查看出版物

复制Bibtex

基于扩散的模型将采样分解为许多小的高斯去噪步骤,但当生成过程被压缩为少数粗略转换时,这一假设将失效。现有几步方法通过蒸馏、一致性训练或对抗目标来解决这个问题,但在这个过程中牺牲了似然框架。我们引入归一化轨迹模型(NTM),该模型将每个反向步骤建模为具有精确似然训练的表达条件归一化流。架构上,NTM在每一步中结合浅层可逆块,并在轨迹中使用深度并行预测器,形成一个端到端网络,可以从头开始训练或从预训练的流匹配模型初始化。其精确的轨迹似然进一步实现了自我蒸馏:一个在模型自身诱导的分数函数上训练的轻量级去噪器,仅用四步即可生成高质量样本。在文本到图像基准测试中,NTM仅用四步采样即可匹配或优于强大的图像生成基线,同时在生成轨迹上唯一保留精确似然。

  • †宾夕法尼亚大学
  • ‡ UIUC
  • ** 在苹果工作期间完成的研究

相关阅读和更新

轨迹作为教师:通过能量导航蒸馏实现几步离散流匹配

2026年9月16日 研究领域 方法与算法 , 研究领域 语音与自然语言处理

离散流匹配通过迭代将噪声标记转换为连贯语言来生成文本,但可能需要数百次前向传递。蒸馏利用多步轨迹训练学生模型在几步内重现该过程。当学生表现不佳时,通常的解释是容量不足。我们认为恰恰相反:轨迹是瓶颈,而非学生。每条训练轨迹都是通过…

阅读更多

带迭代去噪的归一化流

2026年5月6日 研究领域 计算机视觉 , 研究领域 方法与算法 会议 ICML

归一化流(NFs)是一类经典的基于似然的方法,最近重新受到关注。最近的工作如TARFlow表明,NFs在图像建模任务中能够实现有希望的性能,使其成为扩散模型等其他方法的可行替代方案。在本工作中,我们通过引入迭代TARFlow(iTARFlow)进一步推进归一化流生成模型的状态。与…

发现机器学习领域的机遇

我们的机器学习研究每天都在取得新突破。

与我们合作