I Have Been Writing About AI For 6 Years: Something Changed This Summer

我写了六年关于AI的文章：今年夏天发生了变化

关于成为像所有人一样过时的思考

Alberto Romero

2026年9月28日

大家好，我是Alberto！👋 我发表长篇AI分析文章，涵盖文化、哲学和商业领域。付费订阅者可获得每周一的教程指南和每周五的新闻评论（即将回归）。如果你想成为付费订阅者，这里有按钮：

上周我发表了一篇关于后AI时代乐观主义的文章。今天的文章则来自一个更加深思和忧郁的视角。如何应对即将到来的变化，是当前最重要的问题，它值得深入探讨：光明与阴影并存。

卢塞恩的四州湖

一

我正站在卢塞恩酒店房间五楼的阳台上。这里古老而美丽，建筑往往在岁月中逐渐积累这两种特质，直到后者最终取代前者。在我面前是四州湖；湖面辽阔，但并不至于大到遮蔽我眼前湖岸静谧的繁茂景象。下方：天鹅、绿头鸭、野鸭和鸬鹚悠然地游动。远处：阿尔卑斯山。

我凝视着它们庄严的静止，山峰仿佛在为一张永恒曝光的照片摆姿势。它们对稀疏云朵卡在锯齿状山脊线上毫无反应，对风吹动树木的绿色波浪无动于衷，对胆怯的太阳与新月的舞蹈漠不关心。它们是过去的快照。也是未来的缩影。一百万年前它们矗立在那里，再过一百万年——当蒙大拿酒店早已沿着山坡坍塌成卢塞恩的废墟，湖泊干涸成岩石床，冷杉和水禽进化成某种陌生的新生命形式时——它们仍将矗立在那里，同样无动于衷。

最近，我发现自己能如此描述的事物，唯有高山。

世界正在改变。历代人都曾如此宣称；当然，它一直如此。堂吉诃德认为自己“生于天意，身处这个铁器时代，旨在恢复黄金时代”。奥维德则更乐观地感谢自己的运气：“让别人赞美旧日时光吧，我庆幸自己诞生于这个当下时代。”无论怀旧还是热情，前提都相同：一个时代让位于另一个时代。但如今钟表的刻度不同了。历史变迁过去以千年、有时以世纪、甚至以代际来衡量。而我现在谈论的是年。是月。现在，一切都在“以周为单位发生数十年的变化”。

世界变化的速度超过了任何人吸收变化的能力；我们甚至难以支付日益增长的存在性债务的利息。地球从未被设计为以这种规模代谢人类——请看看工业革命及其后果——同样，人类也从未被设计为以这种速度代谢技术。

我与女友在城市中散步，迎接秋天的到来。此时的秋天已初现端倪：落叶呈现出橙色、棕色、赭石色和黄色，而我自己也已不再穿短裤。宇宙依旧按照惯常的节奏运行，但此刻我却置身于某种非凡事物的展开之中。我看到人们从老城区走出，脸上带着笑容。我拿出手机想拍照，却因多年的习惯性操作打开了Twitter。我的时间线充斥着呼吁政府认真对待AI安全的帖子、实验室员工警告我们对即将到来的未知一无所知的言论，以及接连不断的模型发布，仿佛这一切正是一场维多利亚的秘密时装秀。我重新回到宁静的城市景观中，那些笑容依然存在。什么？我的屏幕正在融化成混乱，而你却在微笑？我突然产生了一种强烈的呐喊冲动。

我强忍住情绪，将手机放回口袋。手仍环绕着金属板时，一种突如其来的感觉攫住了我：我似乎被黑洞边缘捕获了。一只手已越过事件视界，被黑暗拉伸得纤薄；另一只手仍留在卢塞恩，背景是高耸入云的阿尔卑斯山，挥手告别夏日。

II.

人们将这种急剧的变化称为奇点、指数增长、起飞或寒武纪大爆发。我并不特别在意它被称为什么。对于本文而言，我也并不特别在意其背后的原因是成功的湾区邪教领袖，还是诸如重力或资本主义这样的原始力量。

我更感兴趣的是，作为一个无力掌控却被迫卷入其中的普通人，这种体验究竟如何。

我以一种假设的方式提出这个问题——就像人们问“蝙蝠的感受如何”时那样——因为这些变化并未直接影响到我。我以一种更适合世界记录者（或度假者）而非即将被潮水卷走的农民的冷漠疏离态度，来描述这些事件。这难道不是理所当然的吗？AI已经掌控了软件领域，但我从未以专业身份编写过代码。它已经接管了白领经济，但我既不是设计师，也不在企业界工作。即使是对数学，我虽怀有特殊的情感，但它早已远离我的关注范围。前几天，我带着一种旁观者的惊叹写道，OpenAI解决了纳维-斯托克斯方程，但我并未因此感到切肤之痛，因为今天我仍能写下阿尔卑斯山，并确信它们会一直存在。

在某种程度上，我以尊重他人即将成为多数群体的悲伤姿态呈现自己，或许这种同理心显得廉价：我甚至可以奢侈地花费时间思考他们。我甚至允许自己带着某种优越感，因为我将下午和失眠的夜晚投入到一个似乎能抵御AI的领域。我对自己说，品味是无法验证或训练的。Claude被赋予了一个人类名字，但并未被赋予纳博科夫。尽管我的工作从名义上来说是一份“电子邮件工作”，但你们与我之间形成的拟社会关系是不可替代的。你们就是“活的互联网理论”。

但我知道自己正在玩的把戏。我以无知为由宣称安全。正是由于无知，我才能整夜安眠。正是由于无意识，我才能在卢塞恩街头漫步，仿佛自己还有更重要的事情要做，比如投资一个离线避难所。我真的能完全置身事外吗？当然，我仍有准备的空间，但不再有怀疑的余地。

Others who, like me, have skeptically seen AI take over one thing after another except their own, have finally come to terms with the truth.

Scott Aaronson writes in a recent essay that, if we are “intellectually honest,” there’s no denying that we’ve crossed some significant line sometime in the past year: “you’re no longer being asked to believe in arguments and extrapolations, but only in the front-page news,” he writes. He’s correct; GPT-6 Astra is too good . Opus 5.5 is even better . GPT-6.1 will be better still. And so on, in perpetuity. Insofar as you want to remain a useful skeptic, you have to work harder to deny the reality being published every week than they have to work to solve the next Millennium Problem. You may use the help of a chatbot to beat the future shock of needing a chatbot to help you.

Aaronson makes an important qualification, though. “The singularity has already started,” he writes, but it’s “wildly unevenly distributed.”

III.

I’ve made that point before.

AI is a strange technology for one reason above all others: its general-purpose nature means that its capabilities are distributed unevenly along many dimensions at once. In other words, AI can feel like a nothingburger to your mom and like the end of history to you.

Here are some specifics. Access is uneven. Model quality is uneven. Money and compute are uneven. So are technical knowledge, frequency of use, willingness to delegate, familiarity with the domain, and confidence in what the technology can do. The result is that someone at one end of this distribution—perhaps your mom, occasionally dipping in short chats with the free models, displaying little savviness or trust—inhabits a radically different reality from someone at the other: you, with deep knowledge of both AI and the field of application, constantly deploying swarms of agents on an on-premises server.

This is the opposite phenomenon I alluded to in the beginning: the Alps are, across many times, one; we are, within one time, many.

It is is the familiar idea that “the future is already here, just not evenly distributed,” except that AI multiplies the effect. When Aaronson says that the singularity itself is unevenly distributed, he is pointing to the fundamental axis: tractability . The labs have mastered the elusive art of raising the ceiling of AI capabilities but can’t seem to learn the basic practice of raising the floor. You have an Einstein in your hands one moment and a random two-year-old the next. You have fully saturated benchmarks but 2% GDP growth. Etc. Etc. The shape of AI is a spiky star .

But it might not always be like that .

That’s what we have to come to terms with. The singularity might turn AI’s shape into a perfect circle, engulfing all domains as if they were all equally easy. As if Moravec’s Paradox was a temporary artifact of anthropocentrism. As if Einstein being two or fifty-five made no difference at all. As if judging a monkey or a fish for its ability to climb a tree was just as damning. As if William Shakespeare and Alberto Romero were indistinct names.

Could the future be forever as jagged as AI models are today? Sure! But although I have the hope, I don’t have the certainty.

Everything **around me—the lake, the angry swans, the Church of St. Leodegar, the Alps, the moon, my hands—looks exactly like it did in 2000. Will it tomorrow? “The ultimate test is reality,” I wrote , but what if reality folds?

我所依赖的屏障本质上是脆弱的。我正等待一场足以击破它的猛烈围攻，一种深沉到无法以“恐惧”命名，只能表现为“应对”的恐怖。只要应对机制有效运作，我便由衷赞美这道屏障：它由无法验证的领域构筑而成，由比纸张测试在最轻微风暴中便枯萎的现实世界更坚韧的物质构成，由虽非凡人却也未达全能的超级人工智能铸就，由阿尔卑斯山历经千万年依旧屹立不动的永恒存在支撑。归根结底，它由血肉构成。但假如我错了呢？假如这道屏障脆弱易碎、转瞬即逝、高度不足，由花岗岩构筑、可无限扩展？

我恐惧自己可能错了。曾是怀疑论者的斯科特·阿罗诺维茨同样感到恐惧：

我对人工智能的立场仅仅是2006年保守的怀疑论观点，以2026年末现实的诚实态度进行更新后的版本。如果需要我明确说明，这个立场就是：AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA

今日及未来皆有美味佳肴在菜单上，你或许需要调整自己的食量；正如独腿鸽子与生存之间有着脆弱的联系，如今我们亦是如此。

安妮·迪拉德（Annie Dillard）已离世，幸运的是她无需见证真正令人恐惧的全日食。她曾写道：“抓住你唯一的必需之物并紧握不放，无论它将你引向何方，都应顺从、纯粹、虔诚地悬挂于其上。”在我们这个时代，比她的时代更甚，这意味着要全身心投入你所热爱的事物，不再回首，因为硅基入侵者意图抹去除爱之外所有考量的微弱重要性。

2026年9月，我写道：“世上没有有趣的事物，只有充满兴趣的人。”

2024年7月，我写道：“我们永远会有吻，我们最终只会拥有吻。”

V.

埃里克·霍尔（Erik Hoel）——他与我一样是作家，也如阿伦森（Aaronson）一样是科学家，因AI可疑的无法写出优秀散文的能力而始终保持怀疑态度——从爱的立场出发，表示我们不应屈服于未被书写的命运。

3月，霍尔写道：“自GPT-3问世以来已过去六年，写作领域尚未出现‘第37手’的突破时刻。”“第37手”指的是2016年DeepMind的AlphaGo与李世石对弈时下出的一手棋。AlphaGo最终以4:1的压倒性胜利告终，这场比赛成为AI世界想象力的转折点：一台机器“创作”出了一手棋，起初令专家评论员感到困惑，后来却被描述为富有创造力和巧妙的棋路。围棋长期以来被认为比国际象棋更难被AI攻克，主要因为其巨大的搜索空间；AI能否在写作领域实现类似突破，并超越当今最优秀的作家？答案显然是否定的。

其他作家也表达了类似观点，即使他们认真对待AI。孙 Jasmine 表示，未被活过的生命不值得审视：AI“无法生活、无法感受、无法嗅闻、无法品尝、无法感知”，因此无法拥有作者的声音。亚当·马特罗亚尼（Adam Mastroianni）表示AI“只能阅读食谱，却无法品尝菜肴”，或称其写作是“仅有项链，没有脖子”。萨姆·克里丝（Sam Kriss）写道：“无论你认为自己是多糟糕的作家，你都不比AI更差。”

我同意。我相信霍尔也持相同观点。但正如阿伦森一样，他也刚刚发表了对上述现实的思考尝试。他写道：

也许未来我会重新回到更怀疑的立场：例如，数学和编程都是可验证的领域，而首个明显超越人类的AI突破却出现在这些领域，这令人可疑。也许审美品味、研究品味、真正新颖的想法以及持续学习，都是人类意识难以复制的标志。但我是否100%确定？任何人又怎能如此确定？你确定OpenAI不会拨出数亿美元的计算资源，让其百万智能体群体思考相当于百万年的内部时间，最终吐出一种更有效验证“品味”等领域的方案？

我怀疑他是在对未知表达尊重，而非屈从于行业预测。在更新这一信念后，霍尔飞往华盛顿支持禁止超级智能。他的观点清晰明确：宁死不被剥夺自主权。我们宁愿作为锅中灰烬，也不愿沦为机器的宠物。他不会通过将行业偏好的未来视为必然，来帮助“超迷信”（hyperstition）将这一未来变为现实。

VI.

我站在霍尔一边。

我对他既不愿接受“品味的不可言说性可以简化为二进制”（我们拭目以待）这一观点的抗拒，以及对机器的蔑视感到着迷：“在真正拥有超级智能的未来，聪慧的年轻人将不再是创业的主力，也不再是发现真理或决定世界命运的主导者。所有事情都将由隐藏在视线之外、拥有巨大影响力的机器银行悄然完成。”让我们保持人类在循环中！否则，我于2023年3月做出的预测——以分析的中立性而非傲慢的忠诚度——将变为现实：

计算机将继续向未知领域迈进，远在我们无法再辨认自身命运之时……很快，我们将只是旁观者，仅仅是观察者，见证一个既非我们所构建、也非我们所能理解的世界。一个在我们眼前展开的世界——发展速度太快，我们无法跟上；复杂程度太高，我们无法理解……接受这一事实是痛苦的，毕竟我们可能并非这个谜题中那个关键的拼图块。而最终意识到我们甚至没有资格参与其中，成为意义的创造者，这种痛苦将更甚。

一盘完美的围棋对任何人类来说都是不可理解的，而人类却只是继续下棋，仿佛什么都没发生。那么，为什么发现或创立公司就该有所不同？答案很简单：一盘再完美不过的围棋，其目的也并非为你构建现实。

一些人认为这种前景荒谬至极。数学家丹尼尔·利特（Daniel Litt）表示，人工智能既不会“让我们变蠢”，也不会“使我们变得多余”。数学家大卫·希尔伯特（David Hilbert）也曾这样认为：“我们不应相信那些今天以哲学姿态和审慎语气预言文化衰落并接受‘不可知论’（ignorabimus）的人。对我们而言，不存在‘不可知论’，在自然科学中，我认为也根本不存在。我们反对愚蠢的‘不可知论’，我们的口号应是：‘我们必须知道——我们终将知道’（Wir müssen wissen—wir werden wissen）。”希尔伯特的初衷是善意的，但最终是错误的。数学家陶哲轩（Terence Tao）问道：“如果一个AI工具生成了一篇连最初促使AI的人类都无法理解的长篇证明呢？”陶哲轩在7月26日提出了这个问题。到了9月8日，OpenAI让这个设想成为现实：

数学家表示，到目前为止，人类从公司AI模型声称找到的纳维-斯托克斯方程解中，学到的东西非常有限。尽管他们相信该证明在技术上是正确的，但由AI撰写的这份166页的密集手稿却证明难以阅读。

人工智能可以消除人类愚蠢的瓶颈，但在这个过程中，也将抹去我们在这一精彩故事中的角色：曾经作为宇宙旅者的我们，将被贬为宇宙的行李。阿罗诺森（Aaronson）想知道他的孩子们长大后会做什么——他13岁的女儿幽默地表示，“如果她想成为数学家，现在看起来她可能只剩下大约两周时间了”——但他仍然主张接受这一现实。而胡尔（Hoel）则主张抵抗。

刘生玉（Shengyu Liu）则处于两者之间。

VII.

刘生玉与胡尔和阿罗诺森的不同之处在于他姿态中的感性、国籍（中国——哦不）、他从未是怀疑论者，以及最关键的一点：他深入“狮穴”的程度——他是行业内部人士。

作为DeepSeek的内核工程师——如果我正确理解他的角色并评估他对这场闹剧的贡献重要性——他是让AI变得如此强大的主要人物之一。他的工作涉及在GPU内部进行调整，使模型变得如此高效、廉价和快速，以至于OpenAI和Anthropic真的担心中国可能迎头赶上。以至于Dario Amodei愿意在关于全球节奏控制的提案中，明确提及中国。

刘写了一篇关于AI如何影响他的工作和他个人的文章。以下是一段相关内容（由Teortaxes和Astra翻译，我重新排版以提高可读性）：

当所有人都如此坚定地致力于打造自己的过时性时，我别无选择，只能加入这场残酷的军备竞赛……当真正到来的那天，AI在编写内核方面比我更优秀时，那时会发生什么？我的判断是：我可能不会失业，但必须改变我的工作内容。我仍然应该能够谋生，但我可能再也没有机会从事曾经热爱的工作……失去所爱之物确实令人痛苦。坐在工作站上，安顿下来，花整个下午编写内核的那种宁静满足感，可能在今年夏天唱完最后一曲。我别无选择，只能埋葬昨天的才能，成为一名机甲飞行员。我手中现在握有更多的齿轮，但心中却少了更多的节奏。

当然，爱是一种强大的力量，但在后AI时代，可能并非所有人都能拥有这种力量。

像安妮·迪拉德一样，艾萨克·阿西莫夫曾告诉我们“去做你想做的任何事”，但与她不同的是，他准确地考虑了机器对人类追求的征服。我们可能成为贵族。生活不会失去意义，因为“工作赋予生活意义”的观念相对现代，某种程度上与人类本性相悖：我们更愿意玩耍和闲聊。这正是Alex Imas和Clara Collier等人所主张的。“工作之后，”Collier说，“我们将彼此拥有。”多么美好。真正的宝藏确实是我们沿途给予的吻。

但似乎并不总是足够。刘不想成为贵族。他想转动齿轮。尽管他现在手中握有更多的东西，但他的心中却为节奏的缺失而哀悼。

VIII.

对刘——以及Aaronson、Hoel、我、艺术家、数学家和许多其他人来说——生活和工作是同一枚硬币的两面。说“把它当作爱好去做，别再抱怨！”很容易，但AI正迫使他将生活分割。

他找到了一种方法，将自己擅长的事、获得报酬的事和热爱的事融合为一。这不是每个人的目标吗？这不是我们所有人都渴望拥有的生活吗？这不是我们拼命想要实现的生活吗？在某种程度上，你之所以放弃它，是因为你认为它无法实现，而不是因为你不愿意与他交换位置。那些不热爱自己工作的人永远无法理解他的悲剧有多深：是的，他可以在业余时间做自己热爱的事，但他会讨厌自己的工作，而且没有那么多时间陪伴爱人。

就像大多数人一样，对吧？刘哀悼的不是他失去摆弄内核的能力，而是被逐出人间天堂。他犯下了不可饶恕的罪行——找到了一种方式，让原本相当粗粝的存在变得令人愉悦。幸运的是，那些像他一样在我们唯一的人生中过得愉快的人，现在和我们其他人一样痛苦。

他也为福山意义上的“thymos”（激情）的丧失而哀悼：他再也无法将平庸的摆弄转化为更大的目标，更不用说因此获得认可了。

从历史角度看，这种焦虑似乎毫无道理。进步难道不是让我们摆脱了田野和工厂吗？那里肯定也有技艺高超的人。10世纪英格兰最优秀的犁地者并不比刘更能证明现代农业的优越性，正如刘也无法证明下一次AI的成就会不如现代农业。那么，为什么不让进步也让我们摆脱这些呢？摆脱GPU内核，摆脱数学，摆脱一切。我明白这个想法：进步无疑改善了人类生活，而由于我们没有可靠的标准来判断何时达到了“最佳状态”——即生活值得享受与实际享受生活之间的平衡点——也许最好的选择就是继续前进。

但将这种逻辑推向极端时，它就崩溃了。这就像因为一点水能清洁伤口，就认为应该溺死在湖中。它未能意识到，如果你开始打磨山的粗糙边缘，起初你会得到一座漂亮的山丘，但如果你从不停止，最终你将面对一片平原。不知道何时停止并不意味着不存在一个我们已经过度的临界点。“一键奇迹”，正如诺亚·史密斯所说的那样，听起来很美妙。但史密斯没有意识到，“一键奇迹”本身就是矛盾修辞法。正如我之前写的那样：“就像英雄主义是自我毁灭的——它需要一个濒临毁灭的世界来拯救——‘现代的一键奇迹世界’，这个准确描述了当你向ChatGPT输入‘做出突破’并真的实现时发生的情况，是自我延续的。”

明确地说，我在这里的立场并不是“今天停止”，也不是“明天停止”，甚至去年也不该停止，癌症治愈后也不该停止，更不用说在那之前了。划定任意界限的问题在于，一旦你划下这条线，就再也无法完全满意它的位置。我的观点仅仅是：从不停止和过早停止一样糟糕。我在这里并没有给出答案。我甚至不知道这个困境是否有答案，但我认为忽视它并不是解决办法。

IX.

也许我的渴望是绝望的浪漫主义；也许对于一只喜欢在肮脏水坑中照见自己倒影的猿猴来说，渴望像阿尔卑斯山一样永恒是不合理的。在阿尔卑斯山的见证下，我聆听着在鲁斯河中无忧无虑游泳的鸟儿的挽歌。夏天结束了。这是我一生中第一次，我为自己的有限感到感激。与刘、天鹅和卢塞恩一起，我哭泣。

雨已经开始下了。事实上，雨下得很大。

就在片刻之前还沐浴着温暖九月阳光的天空，此刻已被乌云彻底覆盖，厚重的雨滴在河面上织出斑驳的纹路。这是一场毫无预兆突然降临的暴雨。没有组织者发出的起跑枪或友好的开场白，没有欢迎也没有许可。这正是2022年人工智能领域发生的事情。本质上，这场风暴是某种预兆或回声；如果我相信云层的预示者，我无疑能从那片混沌的灰蓝色天空中解读出它的讯息。

我打开今早明智地带上的雨伞，却发现其他人似乎都没有准备。他们显然没料到这场风暴。我看到惊慌的人群躲到巨大的木桥下寻求庇护。人群过于密集，雨水愈发凶猛。究竟多少人能容纳？这座桥究竟能承受多少重量？他们是否以为几块随意拼凑的木板就能抵挡神明的怒火？

恐怕他们很快就会得到答案。而我则转身退回山丘后的围墙后。回到酒店后，我坐在阳台。眼前的景象令人着迷：薄雾已吞噬了湖泊、山谷和整座城市。就连平日与天空交相辉映的阿尔卑斯山，此刻也只剩下最模糊的轮廓。我猜，今天作为旅程的最后一天，似乎再合适不过——最终，连群山也将不复存在。