DPO

本文对比RLHF与DPO两种方法，揭示大语言模型如何通过偏好学习提升帮助性，解析训练三阶段及技术局限性。

Fireworks AI 现在支持 Kimi 2.7 的完全可训练，提供低成本构建竞争模型的方案。

This article introduces Direct Preference Optimization (DPO) technology, which optimizes text generation by using rejection pairs from the model's own failures, significantly reducing text degradation rates. DPO is particularly effective in OCR tasks, as it can serve as a direct mitigation tool for specific failure modes without relying on subjective human judgments.

Fireworks AI 平台正式支持智谱 GLM 5.1 模型，提供 SFT/DPO 微调能力、200K 超长上下文窗口，专为长周期智能体编程微调优化，RL 训练即将上线。

Fireworks AI 宣布 Qwen 3.5 正式接入其训练平台，支持 SFT/DPO/RLHF 等全栈微调方式、256K 上下文及 LoRA/全参微调。

Fireworks AI 扩展其训练平台，支持 Nemotron 3 Ultra 模型的微调和 DPO 训练。