人物

什么是 Joe Carlsmith？

Q: Joe Carlsmith 最近有什么新动态？

traeai 已收录 2 篇与 Joe Carlsmith 相关的内容。最新一篇是「What it's really like to run AGI safety at Google DeepMind (and where I disagree with 'doomers') | Rohin Shah」，由 80,000 Hours Podcast 发布。

AI 安全研究者，提出权力追求型 AI 构成存在性风险的观点。

为什么现在值得关注？

如果只读 3 篇

What it's really like to run AGI safety at Google DeepMind (and where I disagree with 'doomers') | Rohin Shah

80,000 Hours Podcast · 9 分

Claude's Constitution is now an audiobook, read by two of its authors, Amanda Askell and Joe Carlsmi...

Anthropic(@AnthropicAI) · 4.5 分

📰 Joe Carlsmith 最新动态

已收录 2 篇与「Joe Carlsmith」相关的 AI 资讯和分析。

What it's really like to run AGI safety at Google DeepMind (and where I disagree with 'doomers') | Rohin Shah

Rohin Shah 谈在 Google DeepMind 推动 AGI 安全的真实体验（以及我为何不同意‘末日论者’）

80,000 Hours Podcast6月2日27820 字 (约 112 分钟)

Rohin Shah 认为，尽管 AGI 安全风险值得重视，但灾难性对齐失败并非不可避免，常规对齐技术有望成功防止最坏情况，且当前主流担忧在实际训练中并不构成默认路径。

入选理由：Rohin Shah 认为灾难性 AGI 对齐失败不是默认结果，缺乏足够强的论证支持其必然发生。

精选播客#AGI#AI 安全#DeepMind#对齐#Rohin Shah英文

Claude's Constitution is now an audiobook, read by two of its authors, Amanda Askell and Joe Carlsmi...

Anthropic 在 X 上宣布：Claude 的宪法现在成为有声书，由两位作者朗读

Anthropic(@AnthropicAI)5月11日173 字 (约 1 分钟)

Anthropic 发布了 Claude 的宪法有声书，由两位作者朗读，包含写作过程、哲学背景和模型能力变化。

入选理由：Claude 宪法有声书由两位作者朗读

精选推文#AI#Anthropic#Claude中文

与「Joe Carlsmith」经常一起出现的 AI 术语。

Google DeepMind AI Safety RLHF Ajeya Cotra AGI Rohin Shah Yudkowsky-style argument Amanda Askell Claude Anthropic

💡 想追踪「Joe Carlsmith」的长期趋势？去实体雷达 · Joe Carlsmith 查看详细分析和跨材料问答。