Ethan Mollick(@emollick)
I think most people, when talking about open weights models, don’t deeply believe in the vision of AGI/ASI that lab insiders believe in. Like they don’t expect AI to really present grave semi-autonomous biosecurity or other similar risks. Whether it is right or not, no one knows,
6.0内容质量
TL;DR · AI 摘要
开放权重模型的支持者普遍低估了AGI/ASI可能带来的生物安全风险，与实验室内部观点存在显著分歧。
核心要点
- 开放模型支持者与AGI实验室在风险认知上存在根本分歧
- Ilya 2015年已提出开源与AGI风险的矛盾性
- 生物安全风险被多数人视为半自主系统威胁
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 开放权重模型与AGI风险的矛盾
- 核心分歧
- 风险认知差异
- 开源立场
- 历史背景
- Ilya 2015年观点
- 社区反应
- 矛盾立场不可调和
金句 / Highlights
值得收藏与分享的关键句。
No way to hold consistent belief set where you’re AGI pilled and pro open source
Enormous cope ensues when combining AGI risk concerns with open weights advocacy
Most people don’t expect AI to present grave semi-autonomous biosecurity risks
#AGI#AI伦理#开源模型#生物安全
打开原文Ethan Mollick 在 X 上的推文："我认为大多数人讨论开放权重模型时，并不真正相信实验室内部人员所坚信的AGI/ASI愿景。他们并不认为AI会真的带来严重的半自主生物安全等类似风险。无论这种观点是否正确，没有人知道" / X
@emollick
我认为大多数人讨论开放权重模型时，并不真正相信实验室内部人员所坚信的AGI/ASI愿景。他们并不认为AI会真的带来严重的半自主生物安全等类似风险。无论这种观点是否正确，没有人知道，
roon
@tszzl
2026年7月26日
回复 @woke8yearold
是的 - 没有任何方式能保持一个自洽的信念体系，既支持AGI风险又主张开源。这一点自从Ilya在2015年左右写下相关内容后就显而易见了。巨大的认知失调随之而来
2026年7月26日 1:11 AM
149.8K
次浏览
78
48
932
179