Cursor | 每次大规模强化学习运行中的隐藏漏洞
Sequoia Capital248 字 (约 1 分钟)
75
在大规模强化学习训练中，由于模型版本不一致和数值计算差异，导致推理阶段的对数概率值出现不匹配，进而引发训练偏差。该问题被称为‘数值不匹配’，是当前大模型训练中的隐性缺陷。
入选理由：在异步训练中，需重运行前向传播以生成对数概率，但相同模型版本下结果可能不同。
精选视频#强化学习#大模型#数值稳定性#训练系统#AI 系统工程英文
概念
numerical mismatch
在相同模型下因计算精度差异导致输出不一致的现象。
相关材料
已收录 1 条与 numerical mismatch 相关的内容，按评分排序。