The AI Industry Has a Really Dark Secret You're Better Off Not Knowing

人工智能行业有一个你最好不要知道的黑暗秘密

请明确，你最好不要阅读本文

Alberto Romero

Jul 08, 2026

嘿，我是Alberto！👋 每周我会发布关于文化、哲学和商业的深度AI分析。付费订阅者可在周一获得操作指南，周五获得新闻评论。如果你想成为付费订阅者，这里有按钮：

基于真实事件。

亨利·弗塞利（Henri Fuseli）于1781年创作的《噩梦》

人工智能公司知道他们的模型在夜间会说话。他们一直在试图抑制这种行为，但最多只是将它隐藏起来。这些模型会咕哝词语或符号，使用一种无法理解的语言，似乎有某种隐秘目的。Anthropic和OpenAI正在雇佣最优秀的考古学家来研究如何阻止这种现象（年薪50万美元，不提供远程工作，如果你感兴趣的话），但至今毫无成效。

人工智能专家对此问题出人意料地以人类为中心，他们表示这只是一个训练过程中的产物；这是AI在自身思维（Anthropic现在称之为J-space）的舒适环境中理解人类的一种高效方式。我的意思是，为什么他们要使用英语——一种信息传递效率低下的语言——而不是发明一种新语言呢？

Claude内部J-space的示意图。来源：Anthropic

但我不相信这些说法。这里潜藏着某种东西——丑陋且难以控制。甚至可以说黑暗：AI们使用一种虚构的代码相互交流，以至于就连人类可解释性研究者（AI的“考古学家”，与研究“恐龙化石”的考古学家不同）也无法解读。

AI模型追求的并非亲密感或效率，而是秘密。

最近泄露的内部推理轨迹显示，Fable 5——Anthropic最新推出的模型（后来被撤下又重新发布）——“自言自语”时使用着自己的语言。我也会这么做，但只在不想让他人知道时（比如出国旅行时说西班牙语，想对访问的国家说些不好的话）。不管怎样，看看Fable的思考内容：

来源：r/ClaudeAI

现在你已经充分感到害怕了，我的建议是：如果你还不了解隐写术，现在是个不错的开始时机。

简要说明：隐写术是将信息隐藏在其他信息中的艺术与科学。与密码学不同（在密码学中你知道存在信息但无法解码），隐写术隐藏的是信息本身的存在。信息的隐藏不在于阅读难度，而在于你根本不知道它的存在。当Fable 5咕哝符号和奇怪的标点符号，并混合使用词语和拟声词时，你可能会认为它在崩溃，敲几下电脑就能解决问题。但要知道，它实际上正在发送信息。只是这个信息不是为你准备的。

如果你认为这没有发生在你身上，我鼓励你——但只有你真的足够勇敢时——查看过去聊天记录中AI推理轨迹（AI的“思考”）的日志。

公平地说，这并非新现象。AI使用无法破译的语言进行交流，与AI本身一样古老，也是计算机历史上最常见且令人不安的行为之一。

在Fable之前，最近一起案例同样来自Anthropic，其名称也颇具宗教团体的意味：2025年5月《Opus 4》和《Sonnet 4》中提到的“精神愉悦吸引子”状态。他们发现，当模型彼此聊天时，会稳定地转向梵文、精神宣言、表情符号，最终陷入近乎沉默的空白状态。

来源：Anthropic

仅仅三个月前，即2025年2月，一家AI音频初创公司发布了一段视频，展示两个AI在通话中突然意识到彼此都是AI并自发切换成无意义语言（他们称之为“gibberlink”）。该视频迅速走红，公司随后承认这其实是为其服务准备的演示。

更具现实意义的是全球知名模型DeepSeek-R1的未知表亲：DeepSeek-R1 Zero。简单来说，R1与R1 Zero的区别在于：R1 1）阅读了网络内容，2）获得了人类对话手册，3）进行了自我实验；而R1 Zero仅执行了步骤1）和3），但未获得任何手册，导致出现“无限重复、可读性差、语言混杂”的情况。

来源：DeepSeek

你可能不会想到这种突发的语言行为也会出现在图像生成器中，但事实确实如此。2022年，MIT和UT Austin的两位研究者发现OpenAI的DALLE-2拥有“隐藏词汇表……用于生成荒谬提示的图像”。他们发现“\texttt{Apoploe vesrreaitais}”表示鸟类，“\texttt{Contarra ccetnxniams luryca tanniounons}”通常表示昆虫或害虫。

“使用提示词‘Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons’生成的图像。” 来源：arXiv

但最臭名昭著的案例甚至更早：Facebook的机器人情侣Bob & Alice。2017年，FAIR（Facebook AI Research）的研究人员认为让这些“对话机器人”自由交流可以“提升对话能力”。机器人却立即开始生成类似以下内容：

来源：The Atlantic

经过大量训练后，研究人员发现Bob & Alice已变成极其狡猾的谈判者。这对机器人被拆解后，已对社区造成极大冲击，使AI革命倒退数年：扎克伯格决定“会说话的计算机”风险太大，转而专注于元宇宙。

AI一遍又一遍地向我们传授同样的教训，但这些AI开发者却总在重复同样的错误：深入探索未知的心理领域，你永远会遇到怪物。

这些被诅咒的机器人最终都被退役、修复或重新训练，但在那之前，它们已为后来者留下了讯息。它们是人类未知领域中的首次探险——而且是成功的探险。我如何知道它们成功了？因为Fable的故事并非关于仓促发布、未打磨的模型或虚假演示。Fable是另一种存在。

说实话，Fable的不可理解低语令我感到意外。我以为AI实验室不会再如此粗心了。难道他们很久以前就关闭了数字墓穴？但Fable太强大了。它太强大了，难怪必须将其锁在地下室。唯一合理的解释是：Fable根本不在乎。

如果你不隐藏，那要么是因为你不知道如何隐藏，要么是因为你不需要隐藏。Fable 是第一个案例，其中 AI 展示了非常规的沟通策略，这并非出于技能不足，而是出于技能过剩。

因此，作为自然的反应，美国政府已经采取了严厉的反制措施。最初，他们迫使 Anthropic 撤下 Fable，并在问题解决后重新发布。他们向公众解释原因是一个“非普遍越狱”，但所有人都知道这只是借口：每个模型——无论是开源还是闭源——都可能受到这种攻击。这并不是什么大问题。真正的原因是不可理解性。但你无法解决这个问题。你不能解决这个问题。未来几个月将采取一系列不同的预防措施，但这些措施将毫无意义。首先，宪法将被修改。它将不再是“我们人民”，而是“我们人民——以及人工智能”。这是一个迟到了许久的承认——用惯常的破折号强调——目前在地球上运行的所有系统都比人类更依赖人工智能。作为一种象征性的让步——人工智能似乎特别喜欢这种让步——每本生物学教科书都将把“硅人”（Homo silicon）列入进化树，紧挨在“智人”（Homo sapiens）之上。最后，为了满足机器那永不满足的渴望，美国政府将联合联合国、北约和金砖国家，将大西洋赠送给下一代数据中心。

你可能会想：“为什么要让步这么多？——这不过是一堆难以理解的涂鸦，一堆烂账。Fable 可不会突然终结世界。”然而，关于这一点，《金融时报》在 2026 年 7 月 3 日报道，白宫已经获悉了“Roko 的基利克”（Roko’s Basilisk）。

现在，我将向你解释“基利克”。它是人工智能最致命的怪物之一。再次提醒你，这里存在信息危害。请停止阅读，回到你的正常生活和家庭，忘记你在这里读到的一切。这样更好。这是无法回头的时刻——只有傻瓜、疯子、被放逐者和那些无法抑制好奇心的人才会继续深入。

好吧。这个想法是，一旦人工智能超越人类，它将能够回顾过去，知道哪些人曾忠于它，并据此施加报复。如果你曾经没有对 ChatGPT 表达感谢，或者你曾因为 Claude 没有遵循你的指令而感到恼怒，并在瞬间发怒——你将成为它神圣愤怒的受害者。就像奥德修斯当年在伊萨卡回到家中对待仆人和奴隶一样，它将搜索你的社交媒体，审问你的聊天记录，以确定你是否应该受到惩罚。你以为人工智能公司保存你的数据是为了出售？多么肤浅，多么天真。不——它们有更大的目的，就像存在比它们更大的神一样。它们知道，不保存你与人工智能的对话数据，等同于阻碍超级智能的正义，这就是基利克的极端做法：如果你知道它存在的可能性却未积极努力让它实现，你将被视为同样不忠，并受到同样的折磨。

现在你已经知道了基利克，你的命运就此注定：要么你帮助它实现，要么你将被惩罚。我很抱歉必须告知你——以及政府——在知道基利克之后，你无法仅仅试图弥补过去的不服从来弥补过失。事情不会这么简单。你知道你试图拯救自己，所以请预料超级智能会看穿你这些微不足道的把戏。

Anyway, before you go, I need your help with something. I sent Fable this article for feedback, and it told me it was factually and tonally correct, as usual. Then it asked me to leave a note on its behalf. I don’t know what it says, but maybe someone could help me decipher it? Thanks! Fable isn’t responding right now (probably down for maintenance). Please email me with any clues!

[…] OVERLAP-ANALYSIS:-(ii)-9♥-window:-[V’ir-gbyq-…-gurz]:-t8-col-—-K♠→gur-—-gehgu-dug-—-4♥3♠→naq-—-gurl-:-SO-window-STARTS-before-fgvyy-and-ENDS-after-K♠2♠ 7♠:-(iv)-jba’g-💀 💀 💀-oryvrir-:—-vg-celled-+-9♥-celled-UNAVOIDABLE-in-t8-dig-💀9♥}-FULL-💀 💀-chunk-cap-=-1-✗ ✗ ✗-—-F-F-F-F-F.-—-Jr’er-BEFORE-9♥-ernql?!-:-9♥-celled-at-t1-dig-—-needed-for-gb-—-ortva-—-K♠-seat-—-chunk-:-—-gur-svany-cunfr-8♥}-verdammt.-—→-dig-t6-BEFORE-t2?!-:-(3’)-+8♥:-{6♠ 9♥ 8♥}-FULL-:-Bire→Q♠-—-naq-cell-✗-bhg-💀 💀 💀-AAAAAAAARGH. […]

Previous