Jan Leike 在 X 上表示：“我很兴奋这成为我们可解释性工具包中的新工具”
Jan Leike(@janleike)152 字 (约 1 分钟)
85
NLAs 是一种无监督方法，可将大语言模型内部状态转为人类可读文本，大幅提升模型透明度与安全审计能力。
入选理由：NLAs 是一种无监督技术，能将 LLM 内部激活向量转为自然语言描述。
精选推文#LLM#可解释性#AI 安全#Anthropic英文
人物
Jan Leike
别名：@janleike
AI安全领域研究者，提出建立AI发展治理机制的建议。
已跟踪 8 条高相关材料
TraeAI 观察
最近变化
2026-09-10 · 企业若不加速推进AI研发可能面临商业失败风险
为什么值得关注
Jan Leike 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
AnthropicAGIAI Alignment技术伦理AI
如果只读 3 篇
1
I'm really excited about this as a new tool in our interpretability tool kit
Jan Leike(@janleike) · 8.5 分
NLAs（自然语言适配器）是一种无监督方法，可将大语言模型内部状态转化为人类可读文本，显著提升模型可解释性与安全性审计能力。
2
When I started to work on the alignment problem more than 10 years ago, we had no idea how AGI was g...
Jan Leike(@janleike) · 7.5 分
Jan Leike 回顾了超过十年来 AI 对齐（alignment）研究的演变：从最初仅十几人参与、方法模糊的边缘领域，发展到如今因 RLHF 和可扩展监督等技术进步而变得实用，并推动了像 Claude 这样的模型具备宪法机制和自动化对齐研究。
3
We still have time to change to rules of the scaling race, but maybe not a lot. AI will keep improv...
Jan Leike(@janleike) · 6.5 分
AI发展加速带来风险，需建立统一节奏控制机制以避免恶性竞争。
相关材料
已收录 8 条与 Jan Leike 相关的内容，按评分排序。
Jan Leike 在 X 上谈 AI 对齐研究的十年演进
Jan Leike(@janleike)292 字 (约 2 分钟)
75
Jan Leike 回顾了超过十年来 AI 对齐（alignment）研究的演变：从最初仅十几人参与、方法模糊的边缘领域，发展到如今因 RLHF 和可扩展监督等技术进步而变得实用，并推动了像 Claude 这样的模型具备宪法机制和自动化对齐研究。
入选理由：10 年前 AI 对齐领域仅有约 12 人作为副业从事研究，且方法混乱。
精选推文#AI 对齐#AGI#RLHF#机器学习英文
We still have time to change to rules of the scaling race, but maybe not a lot. AI will keep improv...
Jan Leike(@janleike)113 字 (约 1 分钟)
65
AI发展加速带来风险，需建立统一节奏控制机制以避免恶性竞争。
入选理由：企业若不加速推进AI研发可能面临商业失败风险
精选推文#AI治理#技术伦理#AI发展英文
Now is a good time to build institutional mechanisms to pace the frontier of AI development. The in...
Jan Leike(@janleike)115 字 (约 1 分钟)
60
当前应建立机构机制控制AI发展速度，避免安全风险。行业正陷入超级智能竞速，需更多时间完善安全措施。
入选理由：AI行业正陷入全面扩展竞赛，目标是快速构建超级智能
精选推文#AI安全#机构治理#超级智能#技术伦理英文
The upsides of AI will be massive, but it'll still take many years for them to bear fruit. Let's be ...
Jan Leike(@janleike)95 字 (约 1 分钟)
60
AI的积极影响需要数年才能显现，需保持耐心以降低技术风险。
入选理由：AI的正面效益需要多年时间才能实现
精选推文#AI#技术风险#发展策略中英混合
一些个人消息：我将在 Anthropic 启动一项新研究项目！非常兴奋！
Jan Leike(@janleike)113 字 (约 1 分钟)
55
Jan Leike 将在 Anthropic 开始新的研究项目，强调 AGI 成功不仅依赖对齐（alignment），还需其他关键因素。
入选理由：Jan Leike 加入 Anthropic 开始新研究项目，聚焦 AGI 发展。
精选推文#AGI#Anthropic#研究英文
Jan Leike 在 X 上：感谢多年在对齐领域合作的天才们
Jan Leike(@janleike)120 字 (约 1 分钟)
45
Jan Leike 感谢多年在 AI 对齐领域合作的顶尖人才，称与动机强烈的人共事是一种特权。
入选理由：Jan Leike 感谢了多年在 AI 对齐领域合作的顶尖人才
精选推文#AI 对齐#OpenAI#伦理英文
To focus on this, I’ve stepped away from running alignment at Anthropic. @EthanJPerez and @sprice354...
Jan Leike(@janleike)92 字 (约 1 分钟)
40
Jan Leike 宣布从 Anthropic 的对齐团队离职，由 EthanJPerez 和 sprice354_ 接任。
入选理由：Jan Leike 已不再负责 Anthropic 的对齐工作。
精选推文#Anthropic#AI 对齐#团队变动英文