SFT

本文对比RLHF与DPO两种方法，揭示大语言模型如何通过偏好学习提升帮助性，解析训练三阶段及技术局限性。

Fireworks AI 现在支持 Kimi 2.7 的完全可训练，提供低成本构建竞争模型的方案。

微调专有数据是构建AI护城河的最高杠杆策略，提示词易被复制，而基于私有数据训练的模型难以被替代。OpenAI正逐步限制该路径，企业应尽快掌握SFT能力。

Fireworks AI 平台正式支持智谱 GLM 5.1 模型，提供 SFT/DPO 微调能力、200K 超长上下文窗口，专为长周期智能体编程微调优化，RL 训练即将上线。

Fireworks AI 宣布 Qwen 3.5 正式接入其训练平台，支持 SFT/DPO/RLHF 等全栈微调方式、256K 上下文及 LoRA/全参微调。

Fireworks AI 扩展其训练平台，支持 Nemotron 3 Ultra 模型的微调和 DPO 训练。

Spotify通过将用户行为序列转化为向量再映射为Token，结合内容表征与LLM，构建高度可操控的个性化推荐系统，以服务7.5亿用户与1亿+曲库。

Cursor团队在v9模型训练中贡献工程进展，但补充数据效果有限。

本文讨论了大模型SFT的底层机理，旨在终结实践争议，规避无效算力。通过深入理解SFT机制，工程师可以更有效地利用资源，避免浪费。