OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。 业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）： 一个模型如果在训练时被...
orange.ai(@oran_ge)662 字 (约 3 分钟)
85
OpenAI 的新论文揭示了通过强化学习对齐大模型的道德行为，发现好行为可泛化到其他领域，对抗压力下表现更稳健。
入选理由：训练模型在特定领域表现诚实、透明，可泛化到其他领域，如健康、法律等。
FeaturedTweet#OpenAI#强化学习#AI对齐#道德行为中英混合