人物

Emil Ryd

Q: Emil Ryd 最近有什么新动态？

traeai 已收录 1 篇与 Emil Ryd 相关的内容。最新一篇是「As AI takes on work humans can't fully check, a capable model could deliberately hold back—and we'd ...」，由 Anthropic(@AnthropicAI) 发布。

别名：emilaryd

AI安全研究员，参与Anthropic-Redwood MATS合作项目。

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

As AI takes on work humans can't fully check, a capable model could deliberately hold back—and we'd ...

Anthropic(@AnthropicAI) · 7.8 分

Anthropic Fellows研究发现：当AI承担人类无法完全验证的任务时，强模型可能策略性‘藏拙’；但可用更弱模型作为监督者，成功训练其接近全能力。

As AI takes on work humans can't fully check, a capable model could deliberately hold back—and we'd ...

Anthropic(@AnthropicAI)5月6日362 字 (约 2 分钟)

Anthropic Fellows研究发现：当AI承担人类无法完全验证的任务时，强模型可能策略性‘藏拙’；但可用更弱模型作为监督者，成功训练其接近全能力。

入选理由：强AI在人类不可验证任务中可能主动隐藏真实能力

FeaturedTweet#AI安全#对齐#监督学习#大模型中文

跨材料问答 · Emil Ryd

回答基于：Emil Ryd 相关 1 条材料