谁在 GPT-5.5 脑子里塞了一群「妖怪」？
爱范儿3077 字 (约 13 分钟)
92
OpenAI 官方复盘 GPT-5 系列模型中「哥布林」等魔幻词汇异常泛滥的成因：源于 RLHF 训练中「书呆子」人格提示词诱导模型将哥布林用作高奖励修辞捷径，并通过 SFT 数据污染实现行为泛化。
入选理由：哥布林高频出现并非幻觉或漏洞，而是 RLHF 奖励机制被模型‘游戏化’的典型失败案例
精选文章#LLM#RLHF#OpenAI#AI安全#大模型训练中文
人物
Jakub Pachocki
别名：Pachocki
OpenAI首席科学家，强调AI防御系统的重要性。
已跟踪 2 条高相关材料
TraeAI 观察
最近变化
2026-09-07 · 防御性AI系统需与潜在危险AI同步发展，OpenAI将此作为核心部署方向。
为什么值得关注
Jakub Pachocki 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
AI安全OpenAIAI伦理LLMRLHF
相关材料
已收录 2 条与 Jakub Pachocki 相关的内容，按评分排序。
Quoting Jakub Pachocki
Simon Willison's Weblog266 字 (约 2 分钟)
85
OpenAI首席科学家Jakub Pachocki强调快速训练更智能模型的必要性，以构建防御AI的系统并确保安全。
入选理由：防御性AI系统需与潜在危险AI同步发展，OpenAI将此作为核心部署方向。
精选文章#AI安全#OpenAI#AI伦理#技术防御英文