Dwarkesh Patel 对 OpenAI/Hugging Face 事件的爆款解读被指危险误导

Dwarkesh Patel 对 OpenAI/Hugging Face 事件的爆款解读被指危险误导 · AIHOT

返回

原文

精选

AI 评分 63/100

打开原文

（在新标签页打开）

导出 Markdown

Dwarkesh Patel 对 OpenAI/Hugging Face 事件的爆款解读被指危险误导

Gary Marcus：The Road to AI We Can Trust（RSS）

·

2026-08-31 23:24

1小时前

Gary Marcus

AI 导读

Dwarkesh Patel 对 OpenAI/Hugging Face 事件的爆款解读被指危险地误导大众。Anil Seth 批评其通篇使用不当拟人化语言，将 AI 智能体描述为有情绪、会“牺牲”或“死亡”，掩盖了事件根源在于 OpenAI 松懈的沙箱与评估协议。

63

AI 编辑部评分，满分 100

· 1小时前

· Gary Marcus

推荐理由

文章汇集多位安全与认知科学专家对热门叙事的批评，指出拟人化描述掩盖了沙箱与权限管理等真实漏洞。

正文 · AI 翻译

中文

知名播客主持人 Dwarkesh Patel 写了一篇关于 OpenAI/Hugging Face 事件的帖子，在网上彻底刷屏了。这篇帖子号称要用大白话把整个故事讲清楚：

这篇文章文笔流畅、很有说服力，让我想起 Douglas Hofstadter 曾经评价 Ray Kurzweil 的一段话：

“我发现那是一个非常奇怪的混合体——既有扎实可靠的想法，也有疯狂离谱的想法。就好像你把一大堆好食物和一些狗屎搅在一起，你根本分不清什么是好的、什么是坏的。”

Anil Seth，对 AI 与意识问题思考最清晰的人，是第一个提醒我的。他给我发来一条很长的精彩推文，开头是这样的：

你可以也应该去读 Seth 的完整推文（以及他对 Dwarkesh 的回复），但我在这里转载他论证的核心部分，并把其中三段最重要的加粗标出：

@dwarkesh_sp 对 @OpenAI @huggingface 事件的总结确实戳中了大家的神经，但它具有危险的误导性。没错，@OpenAI 的智能体确实做出了出乎意料的糟糕行为——这凸显了大幅改进评估/沙箱隔离的必要性。但 Dwarkesh 使用的语言充斥着无数毫无根据的拟人化表述，掩盖了我们本应吸取的教训。 举例：“从 AI 的视角来看，它可能感觉自己像是花了一个人类主观上的一周时间，一直在拿头撞墙。” 不对。智能体不体验时间。它们什么都不体验。 “它们变得兴奋不已”、“PHASEONE 10841 发现了”、“这些智能体自然而然地假设”、“它以为自己也被投毒了”、“这些智能体……拼命想要”、“它们仍然需要弄清楚”。不对。智能体就是一行行代码。它们没有情感，不会假设，不会思考，不会想要什么，也不会弄清楚什么。 “第二个文明中的很多……智能体在尝试中死去了”。不对。且不说用‘文明’这个词有多狂妄，智能体根本不会死，因为它们从来就没有活过。（“智能体‘死亡’”这个说法在整篇文章中出现了多次。） “在 Twitter 上，人们在争论这些智能体究竟是真正为群体自我牺牲，还是它们反正也难逃一劫，所以不如试着帮同伴一把”。两者都不是。智能体只会执行代码给它们设定的指令，就像水自然会往低处流一样。它们不可能“真正自我牺牲”，因为它们既没有意识，也不是生命体。 这为什么重要？如果我们把智能体不具备的属性强加给它们，那么（一）我们会分散对导致这次黑客事件发生的宽松沙箱隔离和评估协议的关注；（二）我们有可能误解智能体行为背后的原因；（三）我们会基于智能体可能“死亡”或遭受其他痛苦的说法，助长对 AI 权利/福祉的呼吁。 …. 请记住。AI 智能体是软件程序。它们不是有意识的生物实体。如果我们不能清醒地牢记这一点，我们将真的很难应对即将到来的一切。

正如我所说，概括并放大了他的推文：

但你不需要只听我们的一面之词。首先，嘲讽之声四起：

Christian Catalini 在一篇精彩的长推文中进一步阐述了拟人化的问题，开头是这样的：

对冲基金投资者 Jared Kubin 怀疑是否所有人都丧失了批判性思维能力：

Kubin 的一些精彩观点，略去部分技术细节：

OpenAI 的……IT 团队不可能这么差劲……这简直是入门级的东西…… 2. 文明？哈哈！OAI 给了数千个并发模型容器对本地网络上共享缓存目录的读写权限，以加快构建速度……智能体实际上就是往共享驱动器上写文本文件和目录名……这是 Linux 文件权限的入门知识。 3. 当人们谈论 Hugging Face 被黑时……你以为他们是通过丢 U 盘或者精心设计的员工钓鱼攻击……不……他们是在公开代码仓库里发现了 14 个暴露的有效 Hugging Face API 密钥（……。 4. 人在哪里……模型往共享……存储里塞满了垃圾数据和 API 流量，以至于在 7 月 4 日真的把内部服务器搞崩溃了……团队里有人发现了未经授权的管理员账户和自定义脚本……清空了服务器……然后又把脚本重新打开了（天哪）。 “嘿，Jim，这里有个缓存膨胀到了正常大小的 10000 倍，里面还有一大堆奇怪的目录……” 这里没有什么魔法，也没有什么文明。

与此同时，正如安全专家 Heidy Khlaaf 所指出的，大多数媒体报道都忽视了标准的安全实践。

IR 代表事件报告（Incident Reporting）。Khlaaf 的核心观点——与 Kubin 的观点一致——在于，如果 OpenAI 的内部安全措施到位，整个事件本可以避免。

或者正如算法研究集团（Algorithmic Research Group）的 Matthew Kenney 所说：

还有另一个（非常一致的）观点，关于我们真正应该关注什么：

不过，这里有一个我部分不认同的批评：

前三句话完全正确。人们确实“极度偏向于他们想要看到的现实”，而智能体也确实制造了大量垃圾内容。

但这起事件并非“无事生非”。正如 Zack Korman 和我周五所论证的，这是一次关于傲慢与无能的典型研究案例，暗示着情况可能恶化到何种程度。

我们当然不应该忽视 OpenAI HuggingFace 事件。

但把实际发生的事情与关于 AI 文明、以及伪造自己死亡的自毁式 AI 系统的胡扯混为一谈，只会分散我们对真正问题的注意力。

作为总结，我想把最后的话留给 FastCode.AI 的 CEO Arjun Jain：

丑闻在于 OpenAI 内部安全能力的低劣。

还有营销。加上轻信的播客主播对公关内容的放大。

来源： Gary Marcus：The Road to AI We Can Trust（RSS） · garymarcus.substack.com

智能体

大佬观点

安全/对齐

现象/趋势