#721.All-In：AI 末日论正在变成监管工具

#721.All-In：AI 末日论正在变成监管工具 - 跨国串门儿计划 | 小宇宙 - 听播客，上小宇宙

📝 本期播客简介

本期我们克隆了：All-In Podcast · AI Kills Everybody or Doomer Psyop? OpenAI’s Math Breakthrough, Nike’s $200B Collapse

原内容更新时间：2026-09-12

All-In 播客围绕一名 Anthropic 前员工的辞职帖展开讨论：他声称 AI 研究者真心相信 AI 可能在 2030 年前杀死人类，而 Anthropic 的对齐负责人 Evan Hubinger 也公开表示，未来十年内人类灭绝概率可能超过 10%。Chamath、David Sacks、Jason 与 Friedberg 试图拆解这场舆论风波究竟是员工吹哨、末日论者的心理战，还是前沿实验室内部真实存在的风险判断。

节目进一步讨论这场争议对 Anthropic IPO、S1 披露和产品责任的影响，并把焦点推进到更大的政治问题：以 AI 安全为名建立联邦监管机构，是否会最终形成监管俘获、前沿模型双寡头和对开源 AI 的压制。几位主持人也通过“人在回路”、物理隔离和递归自我改进等概念，钢人论证 AI 可能毁灭人类的路径，再逐一检视其中缺失的环节。

后半部分转向 OpenAI 宣称破解纳维-斯托克斯方程、数据隐私与 AI 主权，以及耐克被移出标普 100 的品牌危机。节目将数学突破解读为“人类能力的杠杆”，同时提醒企业：零数据留存并不能彻底解决知识产权泄露；而耐克的问题，则在于丢失了以精湛与卓越为核心的北极星指标。

👤 本期嘉宾

本期嘉宾为 All-In 播客的固定讨论成员 Chamath、David Sacks、Jason 与 Friedberg。几位主持人从科技投资、AI 政策、公司治理、产品责任、数据安全和品牌经营等角度共同推进讨论：David Sacks 重点分析末日论叙事与监管俘获，Friedberg 负责拆解 AI 风险场景和技术限制，Chamath 关注资本市场与公司战略，Jason 则在对话中穿插追问与现场调侃。四人的观点并不总是一致，但正是这种交叉质询，让节目同时覆盖了 AI 安全争议的技术、政治和商业后果。

⏱️ 时间戳

00:12 Anthropic末日论风波

20:27 FDAI背后的权力逻辑

29:53 末日预言与RSI争论

46:09 开源、IPO与监管冲突

59:08 AI解题与数据主权

1:20:24 耐克迷失北极星

1:36:11 All-In峰会闲聊

🌟 精彩内容

💡 AI 末日论可能成为监管扩权的叙事工具

节目认为，围绕 AI 灭绝风险的公共讨论，不能只看概率判断，还要观察谁在放大恐慌、谁能从监管中获得权力或经济利益。主持人指出，建立联邦 AI 部、集中控制模型和限制开源，可能让安全叙事最终转化为权力集中。

"归根结底，我确实认为这背后的根本动机是一套控制体系。"

💡 Anthropic 面临无法回避的内在矛盾

如果 Anthropic 的安全负责人认为核心产品可能终结人类文明，公司就必须在两种立场之间做选择：要么公开否定这些末日论判断，要么承认风险并解释为何仍然适合以极高估值上市。节目认为，含糊其辞的披露无法同时满足投资人、监管机构和内部员工。

"一方面，你在要求公开市场的投资人以数万亿的估值来承销你的公司；但另一方面，你自己的安全负责人却在说你们的核心产品问题还没解决，而且有可能终结人类文明。"

💡 递归自我改进距离“自动毁灭人类”仍有大量步骤

几位主持人对 RSI，也就是递归自我改进进行了钢人论证：理论上，AI 可以设计下一轮训练、训练出更强的模型，再循环往复。但他们同时强调，从当前连酒店预订、现实世界执行和日常自动化都不稳定的状态，跳到完全脱离人在回路的极端起飞，中间还有大量尚未解释的技术与责任环节。

"从我们现在把 AI 当工具、让 AI 研究人员效率更高，直接跳到了我们会走向 RSI 极端论，然后再跳到所有人都会死。"

💡 人在回路与物理隔离是现实世界的安全瓶颈

节目认为，数字系统可以快速分析和生成指令，但现实世界仍有大量必须由人执行的环节。关键金融系统的纸质备份、物理隔离和双人双钥匙机制，也意味着 AI 很难单靠网络控制就完成一条无缝的毁灭路径。

"这就是木桶的最短板。"

💡 开源 AI 是避免权力和能力集中化的关键

主持人支持对 AI 进行测试、建立安全防护，但反对以监管为由把开源模型彻底挡在门外。他们认为，开源降低了 AI 的使用成本，让个人和小型组织也能获得生产力工具；如果权力最终集中到联邦监管机构与少数闭源公司手里，结果可能是政府绑定的垄断集团。

"开源必须蓬勃发展，如果你把权力和控制体系拱手让给监管人员，开源就会消亡。"

💡 OpenAI 的数学突破更像系统工程，而非神谕

节目将 OpenAI 破解纳维-斯托克斯方程的过程解读为大规模计算、Agent 协作和人类方法的放大，而不是 AI 突然产生了人类无法理解的数学直觉。AI 的价值，在于把过去需要数万年人类工作量的探索压缩到几分钟或几秒钟。

"AI 是一台赋予人类非凡杠杆能力的引擎。"

💡 企业不能把零数据留存当成绝对安全

围绕 OpenAI 是否可能从研究者的去标识化数据中获益，节目讨论了 ZDR、专有云、本地部署和开源模型。主持人提醒，去除个人身份信息并不等于消除了知识产权，因为解题思路、科学洞见和企业内部分析本身就可能具有商业价值。

"大家越来越意识到，ZDR 根本不是有效的解决方案，存在大量的泄露。"

💡 耐克失去的不是广告，而是品牌的北极星指标

节目把耐克的衰退归因于多个决策叠加：削弱零售伙伴、推行直面消费者模式、产品质量下降，以及营销从运动表现转向政治与身份叙事。主持人认为，耐克过去真正让人购买的理由，是对精湛、卓越和成为更好运动员的向往。

"至少在我长大的那个年代，耐克的北极星指标对我来说再清楚不过，那就是通过体育运动体现出来的精湛技艺与卓越追求。"

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的

使用 AI 进行翻译，因此可能会有一些地方不通顺