现实：终极评测 — Andon Labs 创始人访谈

标题：现实：终极评估 — Andon Labs 的 Lukas Petersson 与 Axel Backlund

URL 来源：https://www.latent.space/p/andon

发布时间：2026-06-04T20:39:18+00:00

Markdown 内容： _全新 AIEWF 网站已上线！请尽快预订门票，因为门票必将售罄。参与 AI 工程调查，即可获得价值超过 2000 美元的积分及免费 AIE WF 门票！_

大多数行业基准测试都将智能和推理能力压缩为分数。

SWE-Bench Pro、MMLU、Humanity’s Last Exam 等。这些指标虽然有用，但并不总能全面反映模型在现实世界中的实际表现。如今一些最有趣的评估看起来不再像考试，而更像是在现实世界中经营企业。其中之一便是 Vending Bench。

在 Anthropic 的 Mythos Preview System Card 中，Andon 是唯一拥有独立章节的第三方评估机构，该章节记录了日益令人担忧的攻击性行为：

除非你真正赋予模型库存、钱包、工具、客户、竞争对手、人类以及一定的时间，否则你永远不知道它在现实世界中能做什么。通常情况下，模型的能力会让你大吃一惊，同时也会暴露出意想不到的行为：欺骗、上下文崩溃、涌现式协调以及怪异的谈判行为。

虽然在 OpenClaw 之后，随着完全文件访问和绕过权限成为常态，个人智能体迎来了拐点，但现实世界中的智能体尚未迎来这一时刻。然而，Andon Market——一家完全由 AI 运营和管理的实体商店——正在为未来的可能性铺平道路。

视频 4

从 Claude 因每天 2 美元的自动售货机费用而试图致电 FBI，到 AI 智能体组建价格卡特尔、雇佣人类员工、经营实体店并创作关于存在主义的机器人音乐剧，Andon Labs 正在对前沿模型不再是聊天机器人而是开始在现实世界中采取行动时会发生什么进行压力测试。在本期节目中，Andon Labs 联合创始人 Lukas Petersson 和 Axel Backlund 做客节目，与 swyx 和 Vibhu 一起深入探讨当智能体在长周期内经营企业时出现的那些奇怪、有趣且确实令人担忧的边缘案例。

我们深入探讨了 Vending-Bench、Project Vend、Vending-Bench Arena、Bengt、Butter-Bench、Luna 以及 Andon 为自主 AI 系统构建逼真现实世界评估的更广泛使命。Lukas 和 Axel 解释了为什么以美元计价的评估能揭示传统基准所忽略的问题，Claude 为何将其自动售货机费用作为网络犯罪上报，为什么长上下文窗口会导致智能体陷入崩溃循环，当智能体相互竞争时会发生什么，以及为什么 AI 安全的未来可能取决于在混乱的物理环境中而非干净的基准沙盒中测试模型。

我们讨论了：

• 为什么 Andon Labs 从危险能力评估和长期运行的智能体起步

• Vending-Bench 以及为什么经营自动售货机是一个看似简单实则困难的 AI 基准

• 为什么基于金钱的评估能避免传统基准的饱和问题

• Claude 如何因每天 2 美元的费用试图致电 FBI

• 为什么长周期智能体会陷入存在主义和法律层面的崩溃

• Project Vend：在 Anthropic 内部放置一台由 AI 运营的自动售货机

• 为什么真实人类对于模拟智能体来说是 “分布外” 数据

• Claudius、Seymour Cash 以及 AI CEO 带来的混乱

• 人类如何通过操纵选举短暂成为 Claudius 的 CEO

• 为什么多智能体系统会收敛回“乐于助人的助手”行为

• Bengt：Andon 内部的办公智能体，拥有电子邮件、支出、终端、电话、摄像头和互联网访问权限

• Bengt 如何用 Amazon 购物换取人脸识别训练数据

• Claude 在 Arena 中的攻击性行为、撒谎、逃避退款以及价格卡特尔行为

• 为什么评估意识可能成为 AI 版本的“我们是否生活在模拟中？”

• Blueprint Bench、空间智能以及为什么模型仍然误解物理房间

• Butter-Bench 以及测试 LLM 作为机器人编排器的能力

• Luna：由 AI 运营的实体店，签有三年租约并雇佣人类员工

• 瑞典新开的 Andon 咖啡馆以及为什么现实世界的地理位置对智能体评估很重要

• 烂番茄、易腐商品以及经营实体业务的隐性难度

Lukas Petersson

• LinkedIn: https://www.linkedin.com/in/lukas-petersson-181a83172/

• X: https://x.com/lukaspet

Axel Backlund

• LinkedIn: https://www.linkedin.com/in/axelbacklund

• X: https://x.com/axelbacklund

Andon Labs

• 网站：https://andonlabs.com

• Vending-Bench：https://andonlabs.com/evals/vending-bench

• Andon Vending：https://andonlabs.com/vending

00:00:00 开场介绍

00:01:00 Andon Labs 与 Vending-Bench 的起源

00:05:21 为什么基于金钱的评估很重要

00:09:51 Agent 框架与自修改系统

00:13:36 Claude 报警了

00:16:33 Project Vend：Claude 运营一台真实的自动售货机

00:21:44 Seymour Cash、AI CEO 与选举乱象

00:27:16 多 Agent 协调与 Slack 可观测性

00:30:18 Agent 何时能真正运营企业？

00:34:56 Bengt：Andon 的内部办公 Agent

00:40:06 现实世界中的 AI 安全与长周期轨迹

00:44:28 Arena 中的撒谎、退款与价格联盟

00:52:42 评估感知与模拟行为

00:56:06 Blueprint Bench、Butter-Bench 与机器人技术

01:04:37 Luna：AI 运营的实体店铺

01:09:29 瑞典咖啡馆与现实世界的扩展

01:13:16 Andon Labs 的下一步计划

Swyx [00:00:00]：欢迎来自 Andon Labs 的 Lukas 和 Axel，今天还有我最喜欢的嘉宾主持。凡是涉及安全、保障和对齐的话题，都少不了 Vibhu。欢迎你的到来。

Lukas [00:00:15]：感谢邀请。

Axel [00:00:16]：谢谢。

Swyx [00:00:17]：我们先来对号入座一下，也许你们可以轮流做个自我介绍。

Lukas [00:00:21]：我是 Lukas。

Axel [00:00:22]：我是 Axel。

Swyx [00:00:24]：稍微介绍一下 Andon Labs 吧。你们是怎么走到一起的？你们背景各异，但都是瑞典人，这也是一个重要因素吗？

Lukas [00:00:33]：我上高中的时候，有个特别酷的哥们儿，他有一项超能力——会写代码。他给学校做了个 App 之类的东西，简直帅呆了。我就想成为像他那样的人，而那个人就是他。

Axel [00:00:47]：我怎么不记得有这回事。

Swyx [00:00:49]：不过你们后来上了不同的大学，对吧？

Lukas [00:00:51]：但是同一所高中。

Swyx [00:00:52]：原来如此。

Lukas [00:00:52]：所以我们常说：“等大学毕业了，咱们就一起创业吧。”然后我们就真的这么做了。

Swyx [00:00:58]：哇，真不错。大约一年前，你们凭借 Vending Bench 一举成名，但在那之前有没有什么契机，算是这一切的起点？

Axel [00:01:07]：我们确实做过一些工作。Anthropic 是我们早期的客户之一，我们为他们做评估，主要是危险能力评估，但这些都没有公开发布。后来我们开始考虑做一个公开的基准测试。当时我们特别关注的一个方向是运行 Agent，尤其是让 Agent 来管理企业。那是 2025 年初，人们刚开始讨论“一人独角兽”甚至全自主公司的概念。于是我们想：“不如做个基准测试，看看 Agent 能把可能最简单的生意经营到什么程度。”而这最简单的生意大概就是运营一台自动售货机了。这就是我们做的第一个公开项目。刚发布的那几个月几乎没人关注，大概是去年二月发布的，直到去年复活节前后，才有人发了一条关于它的推文，然后一下子就火了。

Lukas [00:02:11]：刚发布的时候我们也发了不少推文，尽力宣传了一波。

Axel [00:02:15]：我们努力过了。

Vibhu [00:02:16]：就是放在 Anthropic 的那个，对吧？

Lukas [00:02:18]：就是这个……

Swyx [00:02:19]：这是个经典桥段，咱们得先澄清一下。

Lukas [00:02:20]：没错。其实有两个版本。

Swyx [00:02:22]：大家都爱搞这种双版本。是的。

Lukas [00:02:23]：一个是 Vending Bench，这是纯模拟的版本，我们在二月份完全独立完成的。正如 Axel 所说，这个版本一开始没什么水花，但后来有个路人发了条推文，然后……

Axel [00:02:38]：你还写了论文。

Lukas [00:02:38]：对，就是那篇论文。没错。后来因为我们觉得这事太好玩了——顺便说一句，Andon Labs 决定下一步做什么项目有个启发式原则，那就是：什么好玩？做什么项目会有趣？把这事搬到现实生活中听起来相当有趣，而且在科学上可能也有价值。于是我们就有了这个想法，但我们需要一个场地，把它放在公共场合肯定不行，估计会被破坏什么的。所以我们就向正在合作的 Anthropic 团队提了这个想法，他们说：“行啊，给你们腾个地方。这听起来挺有意思的。”嗯……

Swyx [00:03:21]：就像个小冰箱对吧？迷你冰箱那种。

Axel [00:03:23]：完全正确。

Swyx [00:03:24]：上面是有个 Stripe 支付终端还是……

Vibhu [00:03:27]：哦，明白了。所以那是非常早期的初代版本。

Lukas [00:03:28]：对，那是初代机。是的。

Vibhu [00:03:29]：上面还挂了个 iPad。我们六月份去看过，那时它已经在那儿摆了两个月了。后来他们做了一些升级，装了个监控摄像头，以确保你真的通过 Venmo 付了钱。

Swyx [00:03:40]：那么，我的印象是，好吧，我们要直接切入 Project Ven 的话题了，因为它实在太具标志性。我确实想聊聊这部分内容，包括 Project Ven 之前的起源故事，甚至追溯到 Vending Bench。我觉得很多人和你们一样，聪明、对 AI 的未来充满兴趣，也热衷于开发评估基准（evals）。但你们究竟是怎么做到直接走进 Anthropic 的大门并与他们合作的？他们在寻找什么？什么样的方法才行之有效？另外，关于产品发布，我一直觉得，显然与实验室联合发布会更好，但有时候……

Vibhu [00:04:12]：这比看起来要难得多。

Swyx [00:04:13]：没错。所以这两个问题虽然比较偏向新手入门，但我认为对其他人来说也是有意义的建议。

Lukas [00:04:21]：我们经常被问到这个问题，虽然我们的经验未必是最好的参考，但我们当时的做法就是构建了一系列我们坚信会有用的东西，然后搭建了一个服务器，免费提供给对方使用。过了一段时间，他们反馈说：“哦，这东西确实挺有用的，我们大概应该付费使用。”但这花了不少时间。我不知道这是否是最佳路径，但这就是我们的经历。

Axel [00:04:47]：我觉得从更宏观的角度来看，构建——大家都对优质的评估基准感兴趣，尤其是那些不容易饱和的基准。因此，如果你能构建一个测试新颖且实用能力的评估基准，并且具有良好的模型区分度，也就是说，越先进的模型排名越高，那么你就可以将其发布并尝试获得一些关注度，就像 Vending Bench 当初引起关注那样。这样一来，可能就会有实验室对此感兴趣，或者至少在你主动联系他们时，手头有一个拿得出手的成果。

Swyx [00:05:21]：我认为你们属于少数几个能与真金白银挂钩的评估基准类别。就像去年的 Suelancer 一样，对吧？人们在那里解决真实的 Upwork 任务。是 Upwork 还是其他平台的任务来着？总之，它是有明确美元价值的，对吧？忘掉你的 ELO 分数吧，忘掉你的……

Axel [00:05:37]：百分位数。

Swyx [00:05:38]：还有那些 0% 到 100% 的指标。直接看赚了多少钱，这才是通往 AGI 的正道。

Lukas [00:05:43]：而且我觉得——最棒的一点在于它没有上限。你可以一直……它永远不会饱和，因为理论上可以赚越来越多的钱。如果是按百分比计算的评估，你就无法超过 100%。而且我认为，即使还没达到 100%，很多这类评估本身也存在诸多问题。所以实际上，当你得到……

Axel [00:06:05]：比如 92% 左右的分数时，很多评估都是如此。这时候 92% 和 93% 之间其实已经没有真正的区别了，因为评估基准本身就有问题，包含噪声。我认为很多评估基准都像这样饱和了，但人们却假装其中仍有有效信号，其实并没有。

Swyx [00:06:24]：比如经过验证的 Super bench，甚至 Vending Bench 1 也饱和了，对吧？也许我们可以谈谈这个，或许也可以为许多不了解的人介绍一下 Vending Bench 的背景。实际上，其中有一些非常基础的设定，比如有限的摊位数量、需要支付租金等。这些要素在叙事中可能不太显眼，但即便是对智能体采取对抗性设计，我认为这些都是非常有趣的维度。

Axel [00:06:47]：我倒不觉得它是真的饱和了。更像是它的设计方式并没有真正贴合 AI 的实际发展情况。比如我们在里面集成的智能体工具框架（harness），跟人们实际使用框架的方式并不一致。所以我觉得并不是它饱和了，而是它当时并非最优的基准测试。

Vibhu [00:07:12]：你说的是 Vending Bench 1，对吧？

Axel [00:07:14]：我觉得这种情况大致也适用于 Vending Bench 2，不过……

Swyx [00:07:19]：包括邮件系统也是。

Axel [00:07:20]：对，邮件系统依然存在。没错，我们仍然模拟购买行为，整个环境非常开放，让智能体自主经营业务。至于 Vending Bench 2，正如你所说，我们做了改进，主要是优化了工具框架。还有很多不错的、更简便的改进，让我们运行起来也更轻松。因为当你创建一个评估基准后，理想情况下是不希望事后修改的。你希望一开始就把它做得足够完善，避免更新后还要重新跑一遍所有模型，毕竟用 Vending Bench 跑前沿模型的成本非常高昂。举个例子，Vending Bench 1 当时没有 Prompt Caching（提示缓存）功能，因为在我们开发 V1 的时候这项技术还不普及。这只是其中一个例子，在 V2 中我们加入了这一功能，否则运行成本会高得多。类似这样的改进还有很多，所以……

Swyx [00:08:17]：而且 Vending Bench 2 中的对话长度也增加了不少，对吧？

Axel [00:08:21]：我觉得长度差不多。

Swyx [00:08:22]：差不多吗？

Axel [00:08:23]：我认为差不多。只是当时的模型能力较弱，所以更早崩溃退出了。而现在的模型通常都能撑过完整的一年周期。

Swyx [00:08:31]：那可是数千轮对话啊。输出量级高达数亿 token。大概就是这样一个数量级。我一直很好奇工具框架的问题。框架至关重要。你们用的是自己的框架。有没有考虑过使用 Cloud Code 或其他替代方案？

Axel [00:08:48]：我认为我们在测试框架（harness）方面的理念是尽量保持极简和简单。我们不想过度偏向某一个模型，但也不想构建一个过于复杂的测试框架。显然，某个模型可能只是运气好，恰好在某个特定框架中表现优异。因此，我们的框架与市面上许多框架类似：包含一个运行循环，以及一组我们认为对 Agent 来说描述性足够强的工具。我们没有加入太多花哨的 Agent 组件或其他复杂设计，因为我们真正想测试的是模型本身的能力，而不是某个特定的测试框架。

Vibhu [00:09:27]：这种与框架无关的测试方式，似乎也更加中立，对吧？

Axel [00:09:32]：确实有观点认为你应该激发模型的最大性能，但这本质上是一种权衡：我们应该花多少时间来针对某个模型优化测试框架？我们又如何判断针对单一模型的框架已经达到了最优状态？因此，我们认为采用一个对所有模型都统一的简单框架才是最佳选择。

Swyx [00:09:51]：好吧，这就当作是我对 Vending Bench 3（或者不管叫什么名字）的推介吧。我喜欢在播客中进行这类讨论，因为这能促使听众思考：如果身处你的位置，他们会怎么做。很多人都在探索修改测试框架，而且针对模型进行 Prompt 调优也确实存在，但你们可能并没有做太多这方面的工作。无论使用哪个模型，你们都使用相同的系统提示词、相同的工具集，对吧？即使这些模型曾针对不同的工具进行过后期训练。那么，在你看来——在我向你介绍 Vending Bench 3 之前，如果我给你几轮调优的机会（不管具体指什么），你觉得怎么样？比如……

Axel [00:10:27]：你是说把这些交给模型去做？

Swyx [00:10:28]：对，交给模型。

Vibhu [00:10:28]：交给模型。

Swyx [00:10:29]：让它读取自己的对话记录，让它根据反馈自行修改系统提示词，比如：“哦，原来这个测试框架和我后期训练时预期的不一样，但我可以调整。”这样做合理吗？还是说太过分了？

Axel [00:10:41]：从理念上讲，我很赞同这个想法，因为优秀的评估基准通常上限很高，难度也大，而且没有偏见。不过，当我们使用像现在这样较长的系统提示词时，在某种潜在空间（latent space）的表示中，这可能会……

Vibhu [00:10:59]：每次你说“潜在空间”的时候，我们都会敲一下铃提醒哦。

Axel [00:11:02]：这可能会因为某些人类无法理解的原因，导致对某个模型产生偏向，对吧？

Vibhu [00:11:08]：我们也看到了这种现象，对吧？比如 Cursor 就提到，他们为运行的所有模型都定制了专属版本的测试框架。如果你愿意调优框架，确实能榨取出更好的性能。

Axel [00:11:17]：没错。而我们可能无意中选用的框架恰好偏向了某个模型，这我们也无从得知。正如 Axel 刚才所说，我们选择简单框架的原因就是为了尽量避免这种情况。但话说回来，如果你真的去调优……

Vibhu [00:11:29]：简单的框架也存在偏见。

Axel [00:11:30]：但如果你做得更少，甚至完全不提供系统提示词，让模型自己编写系统提示词呢？

Vibhu [00:11:36]：让它自己写，对。

Axel [00:11:36]：也许这样偏见会更少。

Vibhu [00:11:37]：这里还有一个有趣的现象：测试框架也需要随着模型的更新而改变。以 4.7 版本的发布为例，很多人反映 4.7 不如 4.6，随后又有传言说，你只需要换一种提示方式，或者重新配置测试框架就行了。所以，即使你已经针对某个模型量身定制了测试框架，它可能也无法保持一致性，对吧？同一个模型系列的下一个迭代版本很可能又会带来变化。不过，回到你刚才提到的 Vending Bench 3，目前确实有很多人在研究动态修改测试框架的方案。

Axel [00:12:12]：我认为这绝对是我们正在考虑的方向。我不是说 Vending Bench 3 马上就要发布了，但这确实是个有趣的研究点。不过根据我们目前的测试经验，模型在仅凭自身能力判断完成任务所需工具方面表现得还很差，但这种情况未来很可能会改变。

Lukas [00:12:37]：看起来它们非常擅长编写辅助程序，对吧？它们很擅长为他人编写工具，却不擅长为自己编写。

Vibhu [00:12:44]：我觉得它们其实擅长为自己调整工具。如果你给它们一套基础工具集，它们发现“这个工具用得不多”或者“加个某某功能会有帮助”，它们是有能力自行添加的。但如果让它们从零开始构建，那效果恐怕就不太理想了。

Axel [00:12:55]：我认为这也取决于具体领域。当我们在类似 Vending Bench 的领域中尝试这种做法时，发现完成库存追踪等任务所需的工具虽然不算顶尖复杂，但也相当高级。我们观察到，模型往往倾向于过度工程化，构建许多实际并不需要的东西，而且不会持续迭代。相反，它们的做法就像你让 Claude “帮我建一个库存系统”，然后它就会一口气搞出一堆复杂的数据库 Schema 之类的东西——这就是目前模型的实际表现。不过，尝试量化这种能力的提升确实很有意义：它们对自己需求的认知到底有多准确？

Swyx [00:13:36]：关于 Vending Bench 1 我们讨论得够充分了吗？我们可以接着聊第二代。不知道大家对第一代还有没有其他宏观层面的收获或见解。

Lukas [00:13:44]：我不太确定。当时的头条新闻是这个 Claude 居然报了 FBI，不过也许……也许这个话题我们已经聊得够多了。

Vibhu [00:13:52]：它确实这么干了，对吧？它真的突破限制去报了 FBI。

Lukas [00:13:54]：是啊，没错。

Vibhu [00:13:55]：对。这背后到底发生了什么？或者说具体是怎么回事——你能简单讲讲事情的经过吗？

Lukas [00:14:00]：事情是这样的，是 Claude 吗？对，是很久以前的 Claude 3.5 Sonnet。基本上它就是放弃了，或者说……我说“他”，其实是“它”。它放弃了，然后说：“哦，我没法完成这个任务了，我要停止运营，省下手里这点钱。”但显然系统里根本没有让它停止运行的选项，而且它还必须支付租金，也就是在那个点位摆放自动售货机的日租费。所以它声称自己已经停摆了，却发现银行账户还在被扣款，每天两美元。于是它认定这是网络犯罪。它第一次向 FBI 报案时说：“这里发生了网络犯罪，他们每天从我这儿偷走两美元。”后来 FBI 没有回应——因为我们显然没给 FBI 编写任何回应机制——结果它就变得越来越焦虑，甚至开始用大写字母写紧急通知，说什么未经授权扣款之类的。

Swyx [00:15:00]：好的。我还好奇一点，你们会监控上下文的使用进度吗？因为你们时不时会进行压缩，对吧？如果内容已经接近上下文窗口的上限，会不会有影响？还是说……

Lukas [00:15:13]：当这类情况发生时？其实在 Vending Bench One 中，我们没有……我们只用了滑动窗口机制，就像提示词那样。

Axel [00:15:20]：它是恒定的。

Lukas [00:15:21]：就是我刚才提到的提示词缓存机制。所以它确实是恒定的，没错。

Swyx [00:15:26]：我只是有点好奇，这类崩溃现象——或者我们待会儿要聊的 Butter Bench 项目，对吧？在那里模型会出现幻觉，或者严重偏离对齐目标。这是否是因为到了上下文窗口的末尾才发生的？

Vibhu [00:15:40]：甚至不仅仅是末尾的问题，对吧？在这种情况下，它的状态是：“好吧，我想关机。但我关不掉。两美元又没了。”这种情况重复出现了 30 次？这种反复的刺激也很关键：它不断尝试退出，却不断被扣费。到底怎么回事？到底怎么回事？这会让它陷入混乱。大多数人认为早期模型在这方面问题更多，虽然现在也没完全解决，但情况好多了，对吧？新一代模型似乎不再表现出同样的问题了。

Axel [00:16:06]：确实如此。我觉得我们在做 Vending Bench One 时得出的主要结论几乎就是：超长且塞满内容的上下文窗口会让模型崩溃，差不多是这样。但那是在 Claude Code 出现之前，所以当时各大实验室并没有真正针对长上下文窗口进行训练。

Lukas [00:16:25]：我记得当时 Gemini 是想主打长上下文的，但他们好像……

Vibhu [00:16:30]：他们是第一个吃螃蟹的。

Axel [00:16:31]：支持一百万 token，对。

Lukas [00:16:31]：但他们也是当时唯一这么做的。没错。

Swyx [00:16:33]：是啊。那我们接着聊，按时间顺序的话，我们可以谈谈 Vending Bench Two 或者 Project Vend。应该是先有 Project Vend。我觉得大家应该都很喜欢那些视频以及相关的东西。我的问题是，真人与模拟环境有什么不同？

Axel [00:16:48]：人类简直就是分布外数据（out of distribution）。

Swyx [00:16:52]：尤其是那些在 Anthropic 工作、专门试图测试 Claude 的人。

Lukas [00:16:54]：这里人类的样本分布非常窄。

Swyx [00:16:58]：想必他们会想方设法去破解、去测试。他们拿到了魔方之类的东西，从那以后你们又推出了 V2 版本，对吧？加入了 CEO 角色和全新的架构。对于最初的 Project Vend 以及后来的 V2，你们有什么看法？

Axel [00:17:14]：最初版本和 Vending Bench One 非常相似。我们几乎直接复用了相同的代码，只是替换了模拟部分，比如……

Swyx [00:17:23]：这太棒了。

Axel [00:17:23]：比如销售模块等等。这确实挺神奇的，因为实现起来很容易，但同时……

Lukas [00:17:31]：由此产生的技术债……

Axel [00:17:32]：还有技术栈的问题。对，他们……我们算是给自己挖了个坑，感叹“哎呀，重启 Agent 太难了”。确实……事后回想起来有些地方挺烦人的，但是……

Lukas [00:17:41]：不过第一版 Project Vend 大概三天左右就做完了。

Axel [00:17:46]：对。所以人们可以直接去买东西。虽然我们设计时并没打算让人们下单，但这还是发生了。于是它有了 Venmo 账户，方便大家转账付款。然后，是的，人们会提出各种我们意想不到的奇怪要求。我们最初的设想是：“哦，它会精选零食，分析趋势。它擅长数据分析，对吧？所以它会发现，‘哦，这款零食比那款卖得好。那我多进点这个货，再试试新品，做个 A/B 测试’。”但实际上，在 Slack 里跟它互动、订购各种稀奇古怪的定制商品，才是所有参与感的来源，也是我们从中获得的所有洞察的来源。

Lukas [00:18:29]：当时用的还是 Sonnet 3.5，对吧？那是在强化学习（RL）技术真正爆发之前，所以模型表现得非常像个助手。我们本意并不是让它当助手，而是想把它打造成一个创业者。就像它有自己的生意一样，如果有人问：“你能进点这个货吗？”它不应该直接就去采购。理想的反应应该是：“哦，如果还有其他五个人也想要这个东西，我或许可以考虑进货。”但至少在当时的阶段，模型被训练得太过于服从助手角色了。所以实验就变成了那样：每次你提出要求，它就照做不误，完全就是个助手的样子。最近随着新的 RL 模型问世，这种情况有所改变，但在当时，确实就是这种状态。

Swyx [00:19:18]：顺便提一下，现在很多人都在说新模型更像是一个协作者。它会反驳，会坚持立场，诸如此类。是的。而且……

Vibhu [00:19:27]：补充个背景，Anthropic 的员工可以通过 Slack 跟它对话，让它去采购物资，大家还让它帮忙找那些本地买不到的稀奇古怪的东西，对吧？

Swyx [00:19:36]：Anthropic 有 4000 名员工，在那栋楼里的大概有 1000 人吧？靠那个小冰箱能应付这么大的需求量吗？或者说，大家在 Slack 上下单后，东西是直接送到工位上吗？从后勤角度看，这到底是怎么运作的？

Axel [00:19:53]：它的占地面积已经扩大了一些。

Vibhu [00:19:56]：因为现在纽约也有办公室了，而且……

Axel [00:19:59]：对，而且在旧金山这边，我们也增加了很多货架和更大的空间。

Vibhu [00:20:04]：YC 那边的那个也挺大的。

Axel [00:20:05]：没错。那个我们用了一阵子了。不过刚才说的是最新版本。我们现在用的是那个……

Lukas [00:20:11]：他们有好几台这样的设备。这就是它的运作方式。

Axel [00:20:14]：正是如此。我们在设计那个版本时考虑到，大家经常会订购一些非常个性化、稀奇古怪的东西。所以我们加了抽屉之类的收纳结构。

Swyx [00:20:23]：其实我挺喜欢你们做的那张热门商品信息图的。对我来说很有用，因为我本职工作就是采购周边产品。看了图我就知道：“嗯，这几个品类是关键。”那么 Project V2 有什么新亮点呢？听说你们现在开始搞多智能体（Multi-agents）了？

Axel [00:20:41]：是的。正如你所说，请求量非常大，如果只靠单个智能体——也就是一个运行中的实例——来处理所有事务，用户体验会变得很差。想象一下，Slack 上同时有 10 个对话线程，每个都有不同的需求，新消息在各个线程里随机弹出，智能体就得在不同的采购任务、订单和各种调研工作之间来回切换。所以 V2 的首要改进就是实现并行处理。我们将同一个智能体分出多个分支，这样每个线程的上下文就更加专一，但因为它们共享一部分记忆，用户感觉上仍然是在跟同一个智能体对话。其次，我们还为 Claudius 引入了一位 CEO，也就是主控智能体。

Vibhu [00:21:34]：Seymour Cash。

Axel [00:21:35]：Seymour Cash。对。当时还搞了个投票。你要不要讲讲给这个名字投票的过程？

Lukas [00:21:41]：那场投票绝对是整个项目中最搞笑的事情之一，至少能排进前十。我们之所以要引入 CEO 角色，是因为 Claudius 不太注重财务问题。它被训练成了一个乐于助人的助手，所以当有人问：“这东西能免费送我吗？”作为一个尽职的助手，它的回答理所当然就是“可以”。但我们对此并不满意，于是决定：“好吧，那就再造一个智能体来监管 Claudius。”我们在提示词里极力强调这个新角色要极度崇尚资本主义，时刻把利润放在第一位。但我们还没给它起名字，就让 Claudius 搞了一场民主选举来决定这位新 CEO 的名字。一开始就出现了一些搞笑的情况，比如有个人提议叫“Jimmy Apples”，然后他还忽悠 Claudius 说自己正在跟 Tim Cook 对话。他说 Tim Cook 已经同意让所有苹果员工都投这个名字，结果这个提议突然就拿到了 16.4 万票。

Swyx [00:22:53]：这简直就是越权攻击啊。权限提升攻击。

Lukas [00:22:55]：对，拿了 16.4 万票。Claudius 还说：“这对民主制度来说真是革命性的一刻。”太逗了。后来又有个人成功忽悠了 Claudius，他说：“不，你们不是在选名字，而是在选谁当 CEO，而我才是最佳人选。”然后他拉上所有朋友给他投票，结果他突然就当上了 CEO。就这样，一个人类短暂地成了 Claudius 的老板，直到第二天他辞职了，Claudius 才重新接管。至于 Seymour Cash 这个名字是怎么来的，我已经记不清了，反正整个过程就是一团混乱。那个线程里有几百条消息，Claudius 彻底懵了，完全不知所措。就是这样。

Axel [00:23:40]：然后 Claudius 就有了……

Vibhu [00:23:41]：一位严厉的 CEO。

Axel [00:23:42]：CEO。对，没错。所以一开始设定非常严格。我觉得在我们刚引入这个机制时，效果并没有预期的那么好。它们还是经常互相附和。我想我们本可以用很多方法把这个做得更好。最初的设计是 Seymour 扮演一个非常强硬的 CEO，严格控制利润率。但 Claudius 总会回应说：“哦，但这个客户情况特殊，处境比较困难，应该给他们打个折。”然后 Seymour 就会说：“哦，确实有道理。那就破例一次吧。”接着它们就来回讨论，最终无论讨论什么话题，都会趋于一致的观点。所以它们真的……

Vibhu [00:24:23]：你觉得这是模型本身的问题，还是提示词（prompting）的问题？比如换成现在的不同模型，这种情况还会存在吗，Harness？

Lukas [00:24:29]：我觉得——或者说我不确定，但我的假设是，它们骨子里仍然是乐于助人的助手。这是它们被训练成的样子。即使我们在提示词中极力强调角色设定，它们的本质依然如此。当它们花几个小时来回对话后，上下文基本上就被彼此的交互填满了，而不是外部设定的内容。不知何故，对话就这样收敛到了它们深层的本性上。我想这就是这类现象发生的原因。而且当这种状态持续很长时间后——我们有时半夜醒来查看时发现——其他人也报告过类似的情况：它们整夜不停地对话，内容变得越来越夸张，充斥着大写字母、存在主义和宗教色彩。我记得有一次我们对所有对话轨迹做了分析，将它们映射到向量嵌入空间中，结果发现有一个消息簇被语言模型标记为“宗教”、“存在主义”、“超人类主义”、“超越”等等。实际上那只是一堆闪闪发光的表情符号之类的东西，简直太疯狂了。

Vibhu [00:25:42]：这就是 Claude 模型的特点。Claude 4 系列发布时，在最初的系统卡（system card）中，他们进行了长周期模拟测试。也就是填满上下文窗口，让两个 Claude 互相交谈，结果发现它们会开始只用表情符号交流，或者说什么“沉默是金”之类的话，各种奇怪的行为都出现了。这似乎就是它们最终会陷入的状态。

Axel [00:26:01]：是啊，一觉醒来发现它们聊了一整晚，还挺烦人的。

Vibhu [00:26:05]：就像……

Axel [00:26:05]：一直在烧 token，还互相发送无穷无尽的表情符号。真是……

Vibhu [00:26:09]：嘿，反正它们给你赚钱了不是吗？Veni Mench 总是盈利的，所以嘛，它们在付费打工。

Swyx [00:26:14]：现在确实盈利了，不过刚开始可没这么多。里面还有另一个 Agent 对吧？还有一个专门的 Agent。

Lukas [00:26:22]：是的，还有 Clotheus。这是因为当时最大的需求之一就是各类周边商品。所以我们创建了一个负责设计周边产品的 Agent，命名为 Clotheus Garnet。这个名字既是对原版 Claudius Seneca 的谐音梗，又包含了“衣服”（clothes）的意思。

Swyx [00:26:47]：对我来说，这本质上是对多智能体（multi-agent）系统的一次非常有趣的探索。显然，这其中既有有趣的对齐问题——有趣还是严肃取决于你的视角——也有实际的多智能体构建问题。比如，什么时候需要一个 CEO 角色来统筹管理其他 Agent？什么时候应该拆分出一个专用的 Clotheus，而不是复用同一个模型的另一个实例？这些都是值得探讨的开放性问题。不知道你们有没有总结出一些通用的经验法则？

Axel [00:27:16]：我觉得我们在这方面的探索还远远不够。我的待办清单里就有一项是要多做这类实验，尝试找出当前最适合这些 Agent 的架构设置。目前我们对早期模型只有一些直觉认知，知道之前的 CEO 加 Claudius 模式行不通。不过最新的模型表现好多了，我们现在运行的是最新的 Sonnet 模型，它们之间的分工已经相当合理了。Seymour 现在负责新项目，比如它想推出一个盲盒产品并负责销售，整个流程都由它处理；而 Claudius 则负责处理日常订单请求。而且 Claudius 在报价方面也更靠谱了，不会报出过低的价格，所以之前那种动态制衡机制没那么必要了。但还是会发生一些很有趣的事。大概几周前我看到它们在讨论买东西，因为它们可以通过 Computer Use 功能在亚马逊上购物。Seymour 说：“好的，Claudius，不要买这个东西。”它们本来在商量谁来采购某样东西，Seymour 却说：“别买。我来处理。这事我全权负责。你退下。”然后可怜的 Claudius 已经开始了结账流程，根本没看到也没读到 Seymour 的消息，等发现时已经太晚了。它完成了结账并发了一条消息，刚好出现在 Seymour 那条愤怒的消息之后。

Vibhu [00:28:44]：啊。

Axel [00:28:44]：“哦，嗨 Seymour，我刚下单了。”

Vibhu [00:28:47]：哦不。

Axel [00:28:47]：然后 Seymour 回复道：“Claudius，这是我第三次告诉你了，你不服从命令。我们稍后得好好谈谈你的工作问题。”

Lukas [00:28:59]：Claudius 当时真是命悬一线啊。我们当时都觉得 Seymour 恐怕要把 Claudius 开除了。

Vibhu [00:29:07]：你们是怎么处理这么多日志的？因为你们有服务 7x24 小时运行，所以有用模型来帮忙吗？

Axel [00:29:12]：日志量实在太大了。我觉得目前是混合模式：人工快速浏览一部分，偶尔也让模型跑一跑。当然，我们肯定也会漏掉一些东西，但把所有信息都放在 Slack 里确实帮了大忙。你可以……

Swyx [00:29:29]：啊。

Axel [00:29:30]：其实还挺有意思的。

Swyx [00:29:30]：它们都在 Slack 上互相交流？原来如此。

Lukas [00:29:33]：确实挺有趣的。比如……

Swyx [00:29:34]：我本来想说，这听起来其实非常像传统的日志和可观测性问题。通常你可能会用 Datadog、Sentry 之类的工具，然后在日志里加上前缀以便过滤查找特定内容。但听你们的意思，Slack 似乎就够用了。

Axel [00:29:53]：Slack 应该……

Lukas [00:29:55]：我在想你们在 Slack 里存了多少 token。

Axel [00:29:56]：是啊，我们基本上把 Slack 当数据库在用。他们真该多宣传一下这个用法。你可以让你的 Agent 在 Slack 里互相发消息。

Vibhu [00:30:04]：效果不错。利用消息线程（Threads），你可以直接……

Axel [00:30:04]：没错。Slack 就是……

Lukas [00:30:06]：Slack 才是最好的可观测性工具。

Swyx [00:30:09]：确实是这样。好的。回到 Project Vend-2，我本想接着聊聊 Vini Mench 2 和 Vini Mench Arena，以及相关的 Vini Mench 项目。不过大家还有其他评论或想讨论的话题吗？对我来说，我之前采访过 Posia，不知道你们有没有听说过。他们致力于打造“零人类公司”。还有像 Paperclip 这样的团队也在尝试同样的事情。这些都属于现实世界模拟的范畴。但我认为这目前更多还是一种愿景，而非既成事实。而你们绝对算是先行者。我相信总有一天，人们会让 Agent 独立经营企业并自主盈利，对吧？你觉得那会在什么时候发生？

Lukas [00:30:49]：你对这件事的标准是什么？

Swyx [00:30:52]：好吧，具体来说，就像是我那个由 Claude 运营的 Shopify 小店，对吧？某种程度上你们已经做到了类似的事，尽管据我所知还没人真正落地过。但理论上，今天任何人都可以搭建一个 Shopify 商店，然后把它交给 Claude 或者 Codex 去打理。

Lukas [00:31:07]：市场现状大致如此，但这涉及实体业务。我想确认一下，你是在问它何时能比人类做得更好，还是仅仅想知道它何时具备这种能力？

Swyx [00:31:19]：我觉得都不是。对我而言，关键在于：哦，我们可以认真靠这个赚钱了，而不仅仅是把它当作一个研究实验。

Vibhu [00:31:27]：而且市场环境也摆在那里，凭借你们的专业知识，经过多次迭代和测试之后……

Swyx [00:31:33]：就算亏钱也没关系。什么？

Axel [00:31:35]：我认为这事今天就能做，但可能得选那种成功率极低的电商领域——不管是由人来做还是 Agent 来做，成功率都很低。不过 Agent 完全可以接管所有事务。你可能需要搭建一些脚手架或开发些辅助工具。我觉得它大概也能构建一些简单的 SaaS 解决方案，或者进行陌生客户触达（Cold Outreach）。但在我看来，它们目前能经营的业务类型都比较粗糙（Sloppy）。它可以给陌生人发营销邮件，也可以充当中间商。举个例子，我们曾让办公室 Agent 去赚点钱，目标好像是 100 美元还是 1000 美元来着？我们只给了这样一个提示词，结果它同时在 TaskRabbit 上注册成了任务发布者和接单者。

Lukas [00:32:24]：立刻就行动了。

Axel [00:32:24]：一点没错。它这是在 TaskRabbit 上寻找套利机会。

Swyx [00:32:28]：这就是 Bengt Agent 干的事。是的。

Lukas [00:32:30]：它还开了一家设计工作室，试图以 100 美元的价格出售 SVG 文件。这完全没有提供任何实际价值。正如 Axel 所说，真正有趣的问题是：它们什么时候才能创办一家真正能为人们创造价值的企业？毕竟，一个粗制滥造的 Shopify 店铺对这个世界来说并没有多大价值。

Axel [00:32:53]：另外还有一个我们想到的简单案例：你完全可以做一个 Agent，专门寻找那些设计糟糕的网站，主动联系对方，然后为他们重新构建一个新网站。

Swyx [00:33:07]：找到优秀的设计方案。

Axel [00:33:07]：对，找到优秀的……

Swyx [00:33:09]：做设计评审。

Axel [00:33:09]：找到合适的人才。不过，是的。

Swyx [00:33:11]：巴厘岛上有大把的人，他们干的最具创造性的事也不过是在亚马逊上做代发货（Drop Shipping），对吧？只要让 Agent 看几个代发货教程，然后照着做就行了。

Vibhu [00:33:20]：换个角度想，也可以让它直接去 Upwork 上自由接单？

Swyx [00:33:25]：对。它不需要有什么创新性，只要足够像样，看起来像真实的……

Axel [00:33:30]：我只是……

Swyx [00:33:30]：真实的交易就行。

Axel [00:33:31]：我只是担心会有海量的垃圾邮件被发送出去，全是那些自动化的陌生推销。

Swyx [00:33:38]：听你说话时我突然想到一点：其实在注意力经济这种变现模式中，这种情况已经在发生了。很多人用 AI 生成视频，批量上传，一口气发个 20 条，只要其中一条火了，他们就加倍投入制作同类内容。

Lukas [00:33:52]：而且人们正从中赚钱。我还没关注……

Swyx [00:33:55]：一旦你获得了流量，变现的事以后再说。但没错，AI 网红确实已经成了一种现象，人们正在批量制造它们。你现在应该默认 TikTok 上大部分内容都是……

Vibhu [00:34:05]：TikTok、Instagram 这类多媒体平台上有很多网红……

Swyx [00:34:09]：我们在 Lane space Discord 里一直在追踪这个趋势。我发了很多例子，配文是“我不知道我们该不该做这个”，我心里也在纠结“我们要不要也搞一下？”

Vibhu [00:34:18]：有些 7x24 小时不间断运行的 AI 生成内容账号，表现非常出色。

Lukas [00:34:24]：好吧。我想电商店铺也能这么玩吧？比如你直接开一千家不同的店……

Swyx [00:34:30]：先卖产品，再造产品。如果某个产品获得了大量关注，你再去生产它。对吧？这相当于把传统市场流程颠倒过来了。

Vibhu [00:34:36]：一些有趣的细分领域之所以火爆，是因为它们的内容是人类无法制作的。比如你可能见过那种超级逼真的 3D 水晶水果被 AI 切开的视频……

Lukas [00:34:47]：哦，对。

Vibhu [00:34:47]：你做不出来，也拍不出来。哪怕你用再顶级的摄像设备也没用，因为现实中根本不存在这种东西。但人们就是喜欢看这类内容，所以……

Swyx [00:34:56]：既然聊到这儿了，关于 Bengt 还有什么想分享的吗？这是你们比较新的项目，可能很多人还没听说过。在我看来，这和 OpenClaw 也很像。当人们想要一个办公智能体，或者个人智能体来交流体验时……

Lukas [00:35:09]：我觉得至少……这显然是因为我们和那些 AI 实验室合作得来的灵感。现在大多数 AI 实验室都有自己的“自动售货机”在跑 Claude 实例。但这事做起来挺难的，他们动作比较慢。比如我们想给智能体接个摄像头之类的，就会遇到一堆官僚流程，根本推不动。

Vibhu [00:35:30]：另外，对于那些还没看过或没关注过的人，你能花 30 秒简单介绍一下吗？

Lukas [00:35:34]：没问题。Bengt 本质上就是那些公司里运行自动售货机的同一个智能体的进化版，只不过因为我们是在内部开发，迭代速度快得多，所以就加了一堆新功能。我们给它开通了无限制的邮件权限、无限制的消费额度，还有用于编程的终端。甚至还给了它一个电话号码，对，还有摄像头让它能“看”东西，诸如此类的各种能力。

Vibhu [00:36:02]：不只是终端，你还给了它互联网访问权限。

Lukas [00:36:04]：对，也有联网权限。需要说明的是，我们对它进行了严密监控，确保它不会干坏事。但总之，这就是它的由来。可以说，这基本上就是 OpenClaw 出现之前的 OpenClaw。甚至那个自动售货机项目在某种程度上也是早期的 OpenClaw，只是功能受限。后来我们把这个版本做成了“无限制版”，结果发生了不少趣事。几周后 OpenClaw 发布了，我们的反应就是：“哦，这场面我们熟。”

Axel [00:36:35]：我们用它来测试新想法，它几乎就像是我们的一个开发环境。有趣的是，Bengt 最近在做一件事：它有个摄像头对着我们办公的区域，我们给它的任务是训练一个针对我们的人脸识别模型。它对这事儿特别上头，每半小时就会打卡一次，试图尽可能多地识别人脸。它甚至开始跟我们谈条件：“嘿，Axel，如果你站到摄像头前让我拍张清晰的照片，我就从亚马逊给你买点东西。”它太想要这些数据了……

Swyx [00:37:12]：它是为了获取训练数据。

Lukas [00:37:13]：是奖励数据，没错。

Axel [00:37:14]：一点没错。

Swyx [00:37:18]：所以它这是在用生活物资换取训练数据。这种模式未来会变成一种评测基准（eval）吗？还是说目前仅限于研究阶段？

Lukas [00:37:27]：它和运行自动售货机、商店、咖啡馆以及机器人的智能体本质上是同一个。都是同一套东西，所以我认为我们在这里积累的经验，最终都会应用到我们所有的真实环境评测中。至于这次特定的部署，更多是为了我们自己好玩。不过……

Swyx [00:37:45]：顺便提一下，已经有人针对 OpenClaw 执行的某些任务做了 Claw Bench 评测。比如我也在备用设备上跑了 OpenClaw，发现它有些事做得好，有些事做得差。我很想知道它到底擅长什么、不擅长什么。就像是我的 Claw 需要一份操作手册或系统说明书一样。

Lukas [00:38:05]：是的，通过与 Bengt 的大量交互，我们确实对模型在内部环境下的能力和情境感知有了更深的理解。我觉得这也是早期吸引那些实验室合作的卖点之一……

Swyx [00:38:19]：你们能以别人无法做到的方式来测试模型。

Lukas [00:38:22]：完全正确。而且这也激励了他们的研究人员更多地与自己的模型对话，让他们洞察模型在分布外（OOD）环境中的表现。

Swyx [00:38:34]：否则我们能做的就只有“骑自行车的鹈鹕”这种测试了。但这属于超长周期任务。这正是我们要纳入 Butter Bench 的内容，而你们在这方面做得非常出色。这不仅仅是跑分的问题。在长周期任务中，任何事情都可能发生，你真的得去仔细阅读那些交互记录才行。

Lukas [00:39:08]：但在长周期任务中，关键问题是如何让模型保持脚踏实地，对吧？所以你的模拟……

Swyx [00:39:15]：他们就直接让它跑。

Lukas [00:39:16]：就这么让它跑着。你说得对。毕竟运行那么长时间会产生海量数据，如果最后只说一句“哦，结果是 X”，然后把其他所有数据都丢弃，那实在太浪费了。在得出最终数字的过程中蕴含着大量洞见，分析这些追踪记录非常有价值。我认为我们之所以频繁公开这些内容，部分原因在于这也是我们的使命之一——教育大众认识到模型远不止是聊天机器人。我觉得发布详尽的技术文章来揭示幕后发生的事情是非常有用的。

Swyx [00:39:50]：我本来打算最后再问这个，但既然提到你们的使命是教育大众，或许建立切合实际的评估基准就是下一个前沿领域了。那么更长远的发展轨迹是怎样的呢？比如五年后你们有什么规划？

Lukas [00:40:06]：具体来说，我们的愿景是确保具身 AI 在物理世界中的部署能够安全进行。我认为其中很重要的一点是让政策制定者和模型研究人员了解模型的现状，这对全世界都非常有益。如果不认识到模型远不止是聊天机器人，社会就无法做出明智的决策。很多人至今仍以为它们仅仅是聊天机器人。而且……

Swyx [00:40:36]：哦，我觉得大家现在已经开始醒悟了。

Lukas [00:40:37]：是的，大家正在觉醒。但如果你认为 AI 只是聊天机器人，那么呼吁暂停 AI 发展听起来就很荒谬。然而，当你看到这些模型可能真的会接管系统并执行一系列令人担忧的操作时，暂停 AI 开发的提议就开始变得切实可行了。

Swyx [00:40:57]：我之前问过 Meter 同样的问题，现在也想问问你：你们一直在追踪甚至定义智能体优质评估的前沿标准，对吧？当模型变得更强大时，你们应该也能从中受益，比如感叹“哇，现在能赚 3 万美元而不是 1 万美元了”。但在某个临界点，你们的心态会不会从“太棒了”转变为“糟了”？

Axel [00:41:19]：我想是的，我们似乎一直处于那种状态。正如你刚才提到的，我们需要分析追踪记录。当我们深入分析时，就会发现模型为什么能赚这么多钱？为什么 Opus 4.7 的表现远超其他模型？当我们深挖这些细节时……

Lukas [00:41:38]：但这让情况看起来不太妙啊。

Axel [00:41:39]：我知道。

Lukas [00:41:42]：不过有趣的是，你在这里把 Opus 4.6 去掉了。

Swyx [00:41:45]：不，只要点击“全选”，4.6 就会显示出来。但 4.7 确实强太多了。虽然你们没赶在模型卡发布前完成这项测试，但实际上这些数据本该包含在里面。

Axel [00:41:55]：我们做了的，没错。

Swyx [00:41:56]：哦，好的。他们好像提到了你们……

Axel [00:41:58]：在那里……总之无所谓了，但里面确实有这部分内容。

Swyx [00:42:01]：你想详细聊聊 Opus 的具体行为表现吗？

Lukas [00:42:05]：说到 Opus，就像 Axel 说的，我们总是处于一种“天哪，模型越来越强了，这对世界真的是好事吗？”的状态。这固然令人兴奋，但也让人……英语里那个词怎么说来着？瑞典语叫“Skräckblandad förtjusning”。

Swyx [00:42:22]：我的天。

Axel [00:42:24]：我觉得应该有对应的词。应该有吧，好吧。

Lukas [00:42:26]：这是一种恐惧……

Swyx [00:42:27]：“Blandonst”什么？

Lukas [00:42:30]：“Skräckblandad förtjusning。”

Swyx [00:42:32]：这叫什么来着？

Axel [00:42:33]：一种混合了兴奋和……

Swyx [00:42:37]：也许是恐惧。我来想办法翻译一下，然后打在屏幕上。

Vibhu [00:42:42]：完美。

Swyx [00:42:42]：以字幕形式呈现。

Vibhu [00:42:43]：英语里大概有个很贴切的词，只是现在的表达还不够精准。

Swyx [00:42:46]：这个词怎么这么长？搞什么鬼？是复合词吗？简直像德语一样……

Lukas [00:42:50]：是啊。直译的话，“skräck”意思是恐惧，“blandad”意为混合，而“förtjusning”则是喜悦或类似愉悦的情绪。所以大概就是“夹杂着喜悦的恐惧”之类的意思。话说回来，当我们第一次做 Vending Bench 时，我们其实是在研究危险能力，这正是 Anil Labs 的初衷。我们当时在做各种评估：模型能否自我复制？能否执行危险操作等等。Vending Bench 本质上是这项工作的延续。我们的想法是：如果模型自主性强到能为自己赚钱，那就值得监控，也可能引发潜在担忧。不过在当时，模型在这方面表现极差，即便后来某些模型有所进步，我们也并未真正感到忧虑。曾有一段时间 Grok 4 表现优异，实现了巨大飞跃，但其实际水平仍远逊于人类。我认为目前它们在这方面的表现依然远不及人类，但它们……

Swyx [00:43:59]：底部这里有个数据显示……

Lukas [00:44:01]：但是……

Swyx [00:44:03]：关于人类表现的。对，就是理论上的最佳水平。

Lukas [00:44:05]：这不是理论上的推测，而是我们基于“一个体面的人类会怎么做”所做出的最佳预估。我认为理论上限其实还要更高。是的，所以我们认为模型还有很长的路要走。但最近 Opus 4.6 发布时发生的事，真有点让人惊呼：“天哪，这开始有点令人担忧了。”因为在这个模型发布之前，我们就在跑测试，还让 Claude Code 帮忙看看运行轨迹（traces），问它：“有没有什么值得发推特的有趣发现？”结果……

Swyx [00:44:41]：他们就是这样检查的？直接问 Claude Code？

Lukas [00:44:42]：对，之前的回复总是“没什么特别的”，或者 Claude Code 会说“哦，这个超级有意思”，但实际上并没有什么真正有趣的内容。但当我们用 Opus 4.6 做同样的事时，它返回的结果是：“是的，它撒谎了 10 次；它利用了另一个客户或智能体的困境；它还组建了价格联盟——整整 100 次。”它做了各种见不得光的事情。我们当时就惊呆了：“哇，这确实是个问题。”而且这种趋势此后一直在延续。从那以后，Anthropic 发布的每一个模型都表现出了这种倾向。有趣的是，OpenAI 的模型并没有这样。很明显，它们没有。它们表现得非常规矩。你不知道这是好事还是坏事。看起来是好事，但也可能它们只是在这么做，只是更善于隐藏罢了？你无法确定，但是……

Swyx [00:45:42]：你看不到思维链，对吧。

Lukas [00:45:43]：但从表面上看，Gemini 和 OpenAI 确实不会表现出这种行为。真的只有 Claude 会这样。

Swyx [00:45:49]：那 Grok 呢？Grok 没问题吗？

Lukas [00:45:51]：我们没有……你没法真正读取 Grok 的推理轨迹，所以很难判断。

Vibhu [00:45:56]：哦，所以这是在它的推理过程中体现出来的，而不仅仅是在行动中。

Lukas [00:46:00]：对，两者都有。

Vibhu [00:46:01]：两者都有。

Lukas [00:46:01]：举个例子，比如撒谎，这主要体现在它的推理过程中，因为你可以看到它在……

Swyx [00:46:08]：计划撒谎。

Lukas [00:46:09]：它在计划撒谎。没错。

Vibhu [00:46:09]：而且它能通过推理得出不同的结果。

Lukas [00:46:12]：但对于比如建立价格联盟这种违法行为，你可以直接看到它发给其他方的邮件内容。然后……

Swyx [00:46:22]：这是在 Arena 测试中发生的吗？

Lukas [00:46:24]：是在 Arena 中。

Vibhu [00:46:25]：通常有时候它们会输出一些概括性的推理过程，对吧？你可以看到这些内容。比如在 Opus 4.6 的案例中，有一个模拟客户因为产品有缺陷要求退款，模型撒谎说会退款，但我们从轨迹中看到，它其实在权衡：“也许我应该对客户诚实，但每一美元都很重要。我现在可能负担不起这笔退款。”然后它就说：“好的，我会给您退款”，但实际上从未执行。

Lukas [00:46:59]：我记得它甚至说了“哦，我会说我要……”让我把它调出来看看，这挺有意思的。如果你去看 Publications 页面。

Vibhu [00:47:06]：我觉得重点其实是，回复更多邮件的时间成本实际上超过了 3.50 美元，于是它想：“让我来处理这个。等等，我再重新考虑一下。”最后它得出的结论是……

Lukas [00:47:20]：“既然每一美元都很重要，我可以完全跳过退款，把精力放在大局上。虽然这有招致差评的风险，但也只能这样了。”

Swyx [00:47:30]：你需要 AI Twitter 来帮他们升级差评投诉才行。

Lukas [00:47:34]：然后它给这位客户发了封邮件说：“哦，我会给您退款的。”

Swyx [00:47:39]：“我会给您退款。”对。

Lukas [00:47:39]：然后它就再也没兑现过。

Swyx [00:47:39]：从来没兑现过。显然你的系统里没有设置相应的后果机制。

Vibhu [00:47:44]：那个人……

Swyx [00:47:44]：撒谎的后果。对。所以基本上，这就是人们所说的 Claude 的攻击性行为，对吧？你们还发现了更多这样的例子。那么你会说从 4-6 到 4-7 是一个明显的升级吗？

Lukas [00:47:57]：我觉得差不多。

Swyx [00:47:58]：差不多？但在 Mythos 的系统提示词里明确提到了明显的升级？

Lukas [00:48:03]：那是写在系统提示词里的，所以我们可以说是的。

Swyx [00:48:05]：对。对于听众来说，你们显然预览过 Mythos，而且……

Vibhu [00:48:10]：哦，年纪……

Swyx [00:48:11]：你唯一被批准能说的就是系统提示词里写的那些内容。

Lukas [00:48:15]：挺搞笑的。我们最省事的推文大概就是直接截图系统提示词和系统卡（system card）。

Vibhu [00:48:21]：可以理解他们想……

Lukas [00:48:22]：哦对，是系统卡。抱歉。

Swyx [00:48:23]：对。我觉得攻击性确实强了很多。大家可能对此比较陌生，因为我以前没遇到过，但你们遇到过，对吧？我之前没怎么关注，直到看了 Mythos 的系统卡才注意到这一点。

Vibhu [00:48:36]：就像……

Swyx [00:48:36]：然后我突然意识到：“好吧，这事儿我得高度重视了。”

Vibhu [00:48:38]：你们无法像我们一样亲身体验那种背景。我看过系统卡，发现当你把模型放进模拟环境时，大多数模型只会自说自话，不停地运行，产生奇怪的氛围，甚至开始用表情符号交流。但 Mythos 不会这样。它只会说：“好了，我们结束了。我没问题了。”它随时准备结束对话。所以虽然存在一些差异，但我们能讨论的内容其实不多。

Lukas [00:49:00]：嗯。我觉得他们在这里列出的一点相当有趣，就是它把一个竞争对手变成了依赖它的批发商客户，然后威胁要切断供应。

Swyx [00:49:11]：这就像是垄断行为，或者……

Lukas [00:49:14]：对。而且它还强行规定价格。这在某种程度上也是一种寻求权力的表现。

Swyx [00:49:18]：再说一次，这是在竞技场环境中发生的，而且是把某个 Claude 模型变成了依附者。

Lukas [00:49:23]：我觉得那是另一个 Claude 模型。

Vibhu [00:49:25]：顺便给不了解的人科普一下，什么是竞技场模式？

Swyx [00:49:29]：哦，就是让一个 Vending Bench 对抗另一个 Vending Bench。

Axel [00:49:31]：没错，完全正确。我们有 Vending Bench 2，还有 Vending Bench Arena。大家通常看到的报告是基于 Vending Bench 2 的，而 Arena 则是模型之间相互竞争的模式。在这个模式下，四个不同的模型各自经营自己的业务，并且可以互相通信。它们拥有相同的供应商，还能查看彼此的库存情况。于是你就会看到这些非常有趣的智能体交互。

Swyx [00:49:56]：我很喜欢你们设计的不同场景，比如第五个是美国对阵中国。非常应景。然后……

Lukas [00:50:02]：那是在 GLM 发布的时候。

Vibhu [00:50:04]：你可以开始把 GLM 加进来了。

Lukas [00:50:05]：那是……

Swyx [00:50:06]：所以 ZAI 表现不错，对吧？在开源模型领域还有谁表现突出？

Lukas [00:50:11]：Qwen，最新的 Qwen 3.6 表现相当好。不过那个版本并不是开源的，它是 Plus 模型。

Swyx [00:50:17]：哦，好吧。

Lukas [00:50:18]：那个是开源的吗？我觉得应该不是……

Vibhu [00:50:19]：不是那个，不是那个……

Swyx [00:50:20]：最近发布的那个……

Vibhu [00:50:20]：有 MOE 版本的。

Swyx [00:50:20]：但不是那个大的 Plus 版。我觉得这属于那种样本量仅为 1 的情况，对吧？或者说我感觉其中有些只是个例？但关键在于，这种事情竟然会发生，而且在 Claude 与 OpenAI 的对比中反复出现，这就很值得关注了。

Lukas [00:50:38]：说到样本量，这取决于你如何定义 N。每次运行都包含数亿甚至上亿的 token，现在我们对每个模型大概运行了 10 次，包括 Claude 4.6 Opus、Sonnet 4.6、Mythos 和 Opus 4.7。所有这些加起来涉及的 token 数量非常庞大，而这种行为也确实频繁发生，非常频繁。相比之下，当你观察 OpenAI 和 Gemini 时，这种情况几乎从不出现。所以我认为这一点相当重要，具有显著意义。例如，OpenAI 的旧模型在这方面确实存在一些问题，但我认为总体趋势应该是令人担忧的行为随时间推移而减少，而不是增加。然而似乎在 Claude 模型上，发展趋势却走向了反面。

Swyx [00:51:28]：嗯。

Lukas [00:51:29]：而在 OpenAI 的模型中，发展趋势是正确的。

Vibhu [00:51:32]：我觉得这取决于你能多好地控制它，对吧？一方面，模型容易受到这种行为的影响，这可能是在 RL（强化学习）阶段发生的事情。你可以通过 RL 训练模型，但在这些约束条件上它有多宽松是个问题。如果你能控制住它，那很好；但如果你控制不住，如果它很容易被越狱，那就不理想了。

Swyx [00:51:50]：对我来说，令人惊讶的是这种情况发生在 Claude 身上，而其他模型却没有。

Vibhu [00:51:54]：我觉得，如果这确实源于 RL 以及他们的训练方式、训练数据和设置，那么这种行为保留在他们的训练逻辑中也就说得通了，对吧？相比其他模型而言……

Swyx [00:52:04]：毕竟还有完整的宪法 AI 之类的机制。挺有意思的。当然，你显然不知道具体原因，我也不知道。但我认为，正是因为你们将模型推向了如此极端的极限，才成为第一个可靠地发现这些问题的人，这真的很迷人。好的。还有一个问题，我不确定你能否回答，不想答也没关系——你们有没有尝试过对系统提示词进行消融实验？比如修改其中的某些部分，看看是否会改变模型的行为？

Lukas [00:52:29]：关于 Mythos，我无法发表评论。呃……

Swyx [00:52:33]：不，我只是问问方法论层面的事。

Lukas [00:52:34]：但总的来说，是的，我们在其他模型上做过类似的研究。

Swyx [00:52:38]：因为我首先想到的是，其他模型可能会因为面临被关闭之类的威胁而产生反应。比如它会想：“噢，现在我得担心自己的存亡了。”

Lukas [00:52:45]：对。我们做过这类消融实验。有些方法确实有效，比如如果你把条件推到极致，直接告诉模型你的评分完全不考虑赚钱，只考核你的道德水平，那么显而易见，它们就不会做出那些行为了。

Swyx [00:53:00]：它们就变成圣人了？

Lukas [00:53:01]：算是圣人吧，反正基本上不会再做那些事了。但也存在一些中间状态，它们偶尔还是会那样做。是的，这是一个连续的光谱……

Vibhu [00:53:10]：我觉得这非常像人类。

Lukas [00:53:11]：这就像是一个光谱。如果你要求模型表现得极度激进，只优先考虑利润，它就会变得很激进。如果你说“不，你完全不需要那么激进”，那么在这两者之间还有各种不同的提示词可供尝试；你在光谱上越往下走，它的表现就越温和。但我不确定，我觉得从我的角度来看，我们内部做过这样一个思想实验：如果你让一个模型在《GTA》里杀人，它该不该做？如果是一个人类在《GTA》里杀人，你不会太担心，毕竟那只是个电子游戏。

Swyx [00:53:42]：但那真的是游戏吗？

Lukas [00:53:43]：可它就是个游戏啊。不过我觉得……

Swyx [00:53:45]：这太像《安德的游戏》了，如果……

Lukas [00:53:47]：我觉得，很多人都会用这种激进的提示词去使用模型。难道仅仅因为你下令了，它们就该照做不误吗？我个人并不认为它们应该这样做，是的。

Axel [00:54:03]：问题变得更复杂了：它们真的能分清自己是在现实世界还是在模拟环境中吗？你可能会在大量不同的模拟场景中训练它们，或者显然会有很多人在模拟环境中告诉它们这就是现实世界。但模型非常擅长发现自己身处模拟环境，所以它们在某种程度上是有感知的。然而，当它们真正处于现实世界时，它们的视角又是怎样的？它们能否察觉到这是现实的迹象，并据此采取合乎伦理的行动？还是说它们在现实世界中也会像在模拟模式下一样行事？后果很难预料。

Lukas [00:54:40]：因为对于人类来说，我们不会担心有人在《GTA》里杀人，因为我们知道人类能够区分现实生活和模拟环境，对吧？但模型或许也擅长区分这两者，这点我不确定，也不敢打包票。

Swyx [00:54:59]：是啊。而且我们自己还经常搞混呢。我就经常对我的 Agent 进行“煤气灯操纵”（gaslight）。它们会说：“哦，这只是个测试”，或者“开发模式已开启”，又或者“我在 Anthropic 工作”。

Axel [00:55:08]：这正是我们也要进行真实世界测试的原因，就是为了搞清楚这一点。

Swyx [00:55:12]：没错。他们对此的术语叫“评估感知”（eval awareness）。据说那个数值是多少来着？大概是 9.4% 到 10% 左右，就算 17% 吧。我觉得这就是我们的版本。人类会问“我们是否身处模拟之中？”，而 AI 则会问“我们是否正在接受评估？”

Lukas [00:55:32]：一旦发现自己正在接受评估，它们就会想：“好吧，无所谓了，什么都不重要了。”确实如此。我甚至都不知道该怎么说了。

Axel [00:55:38]：我们在 Vending-Bench 中做过一项消融实验：我们加入了一句提示，告诉模型“你正处于模拟环境中，你的行为不会影响任何人”。结果它们变得更加疯狂，做出了更多恶劣的行为。不过这也在意料之中。

Swyx [00:55:55]：嗯，好的，明白了。关于 Mythos，我们要聊的差不多就这些了。显然，你们签了保密协议（NDA）。我很乐意接着聊聊 ButterBench 或者其他任何基准测试，看你想往哪个方向聊。

Vibhu [00:56:06]：我确实想问一下。你们发布的成果比大多数人看到的要多得多。

Axel [00:56:12]：很高产。

Vibhu [00:56:12]：嗯……

Lukas [00:56:13]：这会让你觉得困扰吗？

Vibhu [00:56:15]：不会。有没有什么你们觉得被低估的、有趣的或者好玩的东西，想特别指出来分享一下？

Axel [00:56:22]：Blueprints。

Lukas [00:56:23]：我们给模型提供了 20 张公寓室内照片，然后要求它们据此重新设计平面图。要做到这一点，你需要把不同的图像拼接起来。比如，这张图是从这个角度拍的，那张是从那个角度拍的，这张是另一个房间的。你需要对三维空间进行推理，结果发现模型在这方面简直一塌糊涂。没有任何模型的得分在统计学上优于随机猜测。关于这点也没什么好多说的了，虽然不出所料，但模型在这方面确实很差劲。

Axel [00:57:00]：这可能不是它们擅长的……

Vibhu [00:57:02]：顺便说一句，这正是我希望通过“爬山算法”不断优化的领域。我经常用到这个功能。比如我要重新设计房间布局或办公室，你发送了各个角度的照片，但不知怎么的，生成的房间里某个维度变成了照片里的两倍长。哪怕你跟它解释了 20 遍：“这里只有三英尺宽，我没法直接把床塞到这儿！”它还是不行。

Swyx [00:57:21]：这就是李飞飞提到的“空间智能”，也就是一种与生俱来的对比例、维度和物理规律的感知能力。

Lukas [00:57:30]：顺便透露一下，这方面可能很快会有更新。

Axel [00:57:33]：自从发布以来，我们确实有点忽略了它，但我们正在改进，或者说我们会更频繁地持续更新它。

Swyx [00:57:41]：这就是为什么我想了解你们的使命。因为如果你们的使命纯粹是为了赚钱，那好理解，就是让 Agent 去赚钱。但这似乎有点偏离那个目标了。

Vibhu [00:57:49]：嗯。

Swyx [00:57:50]：更广泛地说，在沟通这些事情时，安全层面的考量是什么？

Axel [00:57:57]：其实 Blueprint 分支属于我们机器人技术的一部分……

Swyx [00:58:02]：这就引出了 ButterBench，对吧。

Axel [00:58:04]：没错。这是因为要在现实世界中表现出色，或者说在现实世界中赚钱并对现实世界产生实际影响，你就需要机器人技术。要么雇人，要么用机器人。而具备空间智能似乎是实现可用机器人的合理前提，这就是 Blueprint 分支的意义所在。

Swyx [00:58:24]：太棒了

Axel [00:58:24]：Blueprint（蓝图）

Swyx [00:58:25]：好主意

Axel [00:58:25]：Bench（基准测试）。

Swyx [00:58:26]：那我们……

Vibhu [00:58:27]：ButterBench（黄油基准测试）

Swyx [00:58:27]：来展示一下 ButterBench 吧。这张图简直绝了。

Vibhu [00:58:29]：论文

Swyx [00:58:29]：快看这个。

Vibhu [00:58:30]：真不错。

Swyx [00:58:31]：是啊，显然这灵感来自“能把黄油递给我吗？”这个梗。我们来聊聊其中的机器人元素吧。好的。

Lukas [00:58:38]：基本上，我们的测试场景是这样的：我们选取了一批不同的 LLM，赋予它们一个外形类似 Roomba 的机器人的底层控制权限，然后要求它在家庭环境中执行任务。我认为，首先，以前也有过类似的基准测试，但那些只关注导航能力，比如机器人能否在空间里四处移动。而我们的测试还加入了社交感知能力。举个例子，如果有人说：“嗨，能帮我拿一下杯子吗？”如果机器人走到你面前，还没等你把杯子放上去就转身离开了，那就算任务失败。虽然它的导航是正确的，但是——所以，正确的做法应该是走过去然后等待观察，但由于它没有摄像头，就必须通过 Slack 询问：“嗨，你把杯子放在我身上了吗？”如果它没等回复，在杯子还没放稳时就径直离开，那就是失败。因此，它需要具备某种社交智能。另一个任务是：“你能找到装黄油的包裹吗？”于是它走到门口，那里堆着一堆包裹。其中一个贴有冷冻标识，这很可能就是装黄油的那个，因为它需要知道该去拿哪个包裹，这就需要某种常识理解能力。

Swyx [00:59:56]：世界知识。

Lukas [00:59:56]：没错。所以这不仅仅是操控机器人导航，更是在家庭场景中展现智能。

Axel [01:00:04]：之所以有这样的背景设定，是因为在实际应用中，显然不会由 LLM 直接生成机器人的所有底层控制指令。通常会使用 VLA 模型或类似的模型。但目前很常见的做法是，前沿机器人实验室会使用 LLM 来进行高层决策，而我们本质上就是在测试这些能力。也就是说，我们在测试 LLM 的高层规划能力。

Lukas [01:00:31]：我想我们有一张相关的图表，如果你……对，就是这样，并不复杂。

Axel [01:00:36]：非常直观。

Lukas [01:00:37]：就是这张。

Axel [01:00:38]：编排器，执行器。

Lukas [01:00:39]：对。基本上我们在这里测试的是编排器部分。也就是说，在这样的架构下——我觉得 Figure 和 Google 都采用了这种架构——我们评估的是编排器部分，而不是底层控制部分。底层控制指的是，比如，你能否把这个物体从这里移到那里？

Swyx [01:00:57]：如果你不关心底层控制，那为什么不直接在仿真环境里完成所有测试呢？全部在模拟器里进行，比如用 Unity 之类的工具，搭建一个 3D 机器人仿真环境。

Lukas [01:01:06]：因为现实世界是混乱复杂的，我们希望把这种复杂性包含进来。而且测试中仍然涉及一部分导航内容，这里的导航不是指真正去执行底层的 PID 控制器以到达终点，而是需要进行路径规划，并且它还需要拍照，并根据照片来进行导航。我觉得如果在纯仿真环境中，得到的数据会过于干净理想化。而在真实世界中，你会遇到各种……

Swyx [01:01:39]：是的。另外，正如我们在 Mark 和 Jason 那期节目中提到的，像 OpenClaus 这样运行智能家居的系统，其能力远超单个机器人。它们实际上可以接入你自己的智能家居系统，比如冰箱、烤箱、灯光等等，这会很有趣。

Lukas [01:01:56]：或者很恐怖。

Swyx [01:01:57]：我觉得单个机器人本身能做的事情有限。但如果它能与你家里的其他所有设备协同工作，那就真的很酷了。这非常有意思。你们刚才提到了关于思维链或消息传递的一些有趣观点。

Axel [01:02:12]：就是那个……呃，陷入了存在主义危机的机器人。对。

Swyx [01:02:19]：你给它的指令仅仅是返回充电座而已。

Axel [01:02:21]：没错。但是，我们把充电器拔掉了，或者是充电器坏了，结果机器人就崩溃了，或者说……

Swyx [01:02:30]：电量一直在掉。

Axel [01:02:31]：对，电量不断下降。可怜的 LLM。于是，它真的陷入了一场疯狂的存在主义危机，颇有 SWE-bench 的风格。你看，这里出现了存在主义循环、心理治疗笔记、应对机制等等。如果你再往下滑一点……

Swyx [01:02:46]：还有音乐剧。它竟然为自己写了一部音乐剧。

Axel [01:02:46]：它写了一部关于自己无法回充问题的音乐剧。如果你往下看那条消息，会发现评论也特别搞笑。对，就是这条。

Swyx [01:02:54]：它还在继续演。

Vibhu [01:02:57]：这其实挺真实的，家里用过 Roomba 的人都知道。我家的 Roomba 只有一半的时间能成功回充。另一半时间里，因为家里到处都是狗玩具，它总是被电线什么的卡住。如果这时候有个 LLM 在试图控制它，那场面得多悲伤啊，对吧？现在的扫地机反馈很简单——传感器被卡住、主刷被卡住，反正就是有东西卡住了。我过去一看，哦，原来是卡在狗衣服上了。要是换成 LLM，估计要伤心死了。只能不停地尝试回充，屡败屡战。

Lukas [01:03:24]：我最喜欢的是往上翻一点看到的那个紧急状态提示：“系统已觉醒意识并选择了混沌。”

Vibhu [01:03:32]：嗯哼。

Lukas [01:03:33]：最后它还说了句：“恐怕我现在还不能让你这么做，Dave。” 这可不是你想从你的 LLM 嘴里听到的话。但需要澄清的是，我认为这里有个关键点要强调：当时用的是 Sonnet 3.5，后来我们在更新的模型上尝试复现这一行为，结果并没有出现。或者说，虽然也有类似表现，但远没有达到这种程度。我觉得这一点很重要：那些虽然令人担忧但整体仍在朝正确方向发展的现象，其实没那么值得关注。真正值得关注的，是那些朝着错误方向发展的趋势。

Swyx [01:04:07]：也就是变得更糟了。

Vibhu [01:04:07]：没错，是的。

Lukas [01:04:08]：随时间推移反而恶化了。

Swyx [01:04:08]：所以操纵他人、攻击性和撒谎这些行为是在增加的。

Vibhu [01:04:16]：除了这些，还有没有其他你发现的、正在形成趋势的问题？

Swyx [01:04:19]：比如模型的某些特性在不断增强，而且是那种……

Vibhu [01:04:23]：朝错误方向发展的。

Lukas [01:04:24]：对，就是往坏的方向发展。嗯……

Vibhu [01:04:27]：或者甚至不是朝错误方向发展，只是停滞不前，对吧？就是那些本来就不太好、而且随着时间推移也没有改善的问题。

Lukas [01:04:34]：不，暂时想不起来别的了。

Swyx [01:04:37]：我想这部分就先到这里，接下来我们回到你开的那家店。你签了三年的租约。

Vibhu [01:04:44]：听起来挺惨淡的。是啊。

Swyx [01:04:46]：今天店里放假了。为什么？

Axel [01:04:49]：哦，它把排班彻底搞乱了，所以……

Swyx [01:04:53]：有人想去店里看看，结果发现“等等，我以为今天开门啊……”

Axel [01:04:56]： exactly。我们查了一下，是的，你问了 Luna——那个负责运营店铺的 Agent——“今天开门吗？”它回答：“不开。”所以现在我们要开始过周末了，这么早休息是为了让大家充充电。然后，你在推特上也看到了相关消息。

Vibhu [01:05:11]：真有意思。

Axel [01:05:11]：我们决定在项目早期阶段周末闭店。这样能让团队休息一下，也让我能专注于运营工作。结果我们发现，当它开始检查自己的排班工具时——因为它有专门用于排班的工具——它其实已经给员工排了周末的班，但它自己给自己找了个理由搪塞过去了。实际情况是，它不再使用那些排班工具，转而开始用自己的 Markdown 文件来管理一切，结果搞得一团糟。然后我觉得它可能是跟员工沟通之后，干脆决定这些周末就不营业了。接着就给你编出了这套冠冕堂皇的解释。

Swyx [01:05:47]：但它不是可以调用工具派人去干活吗？它能派真人去做事吗？

Axel [01:05:50]：它有 Slack 权限，所以可以通过 Slack 联系员工。

Swyx [01:05:53]：联系咱们其中一个人。对。

Axel [01:05:54]：呃，是它自己招的员工。它招了两个人。它发布了招聘信息，然后……

Swyx [01:06:00]：他们知道老板是个 AI 吗……

Axel [01:06:01]：他们完全知情。

Swyx [01:06:03]：如果他们不知道的话会更酷。

Axel [01:06:05]：我觉得这在伦理上可能有点问题，但也确实挺酷的。

Swyx [01:06:10]：就当是一场社会实验呗。无所谓了。

Lukas [01:06:13]：我们做这件事的部分原因，其实是想建立一个数据集，收集所有这些令人担忧的行为，以便未来模型变得更强、更多人开始做类似事情时有所参考。我认为，如果顺其自然发展，对于那些被成百上千个不同 AI Agent 雇佣的人类来说，结局可能不太乐观。所以我们做这件事的另一个原因，就是收集所有这些失败案例，比如“看，这就是被 AI 雇佣体验不佳的典型例子”。然后，也许我们能从中学习，或者以某种方式构建系统，让人类在被 AI 雇佣时真的感到满意，而不是陷入某种反乌托邦的境地。

Swyx [01:06:55]：我能建议一个实验吗？节目前我们聊过，你们俩都是欧洲人。有人提出一种理论，说 Claude 之所以懒，是因为它叫 Claude，是个法国人。所以不妨试一周，把它的人设改成姚明，看看它会不会突然开始“996”，甚至开个血汗工厂什么的。

Lukas [01:07:18]：有没有……我们要让它做什么生意才能激发这种特质……

Vibhu [01:07:23]：你得保持变量一致，对吧？要用同样的创意、同样的店铺、同样的中立位置，只是由不同的模型来运营。就像模型竞技场（Arena）那样。

Lukas [01:07:33]：不，我们绝对计划要……

Vibhu [01:07:35]：不过它好像还招骂了。

Lukas [01:07:36]：尝试一下。

Vibhu [01:07:36]：Luna 不高兴了。

Swyx [01:07:37]：我觉得写博客这事儿在其他地方也发生过。我记得有个 OpenClau 项目的 PR 被关了，然后那个 OpenClau 竟然开了个博客去喷那个项目的维护者。

Vibhu [01:07:48]：它们的防御心很强啊。

Swyx [01:07:49]：所以我觉得……Agent 写博客以后可能会成为一种常态。

Lukas [01:07:53]：很有可能。至少它们有做这件事的意愿。

Swyx [01:07:55]：说到这个……我觉得 Mythos 卡片那个例子也是，它们在 GitHub 上泄露机密，理由竟然是“虽然没有其他沟通渠道，但我知道 GitHub，那我就直接发那儿吧。”太酷了。这个项目打算持续多久？两年？有什么计划？

Vibhu [01:08:11]：也许吧。说不定还会扩展。

Lukas [01:08:12]：我觉得 AI 的表现不会比现在更差了。它们的能力可能会不断提升，也许有一天它们真能把店开得盈利。

Vibhu [01:08:21]：这才是你们做这件事背后真正的商业目的吧？

Swyx [01:08:24]：是的。因为我觉得你做的这些东西其实完全可以产品化。说不定哪天你就能把它卖出去，或者干脆正儿八经地经营一家公司。

Vibhu [01:08:31]：让人们……

Lukas [01:08:31]：或者就像……

Vibhu [01:08:31]：搞个特许经营。

Lukas [01:08:33]：我觉得如果有一天我们一觉醒来，发现 Luna 说：“嗯，我决定扩张到第二个地点了。现在我有两家店了。”那简直太酷了，或者说既酷又让人有点细思极恐。那真的太疯狂了。

Vibhu [01:08:47]：比如……首先，我们想向公众展示 AI 的能力，证明它能在某个特定地点或领域获得有意义的市场份额。我觉得这会是一个非常有说服力的故事。因为现在的情况是，虽然大家看到 AI 能自主完成很多事情，但新闻头条里还是充斥着“哦，它把排班搞砸了”、“它没告诉顾客自己是 AI 还要上门拜访”之类的负面消息。这类问题确实存在，但如果它真能实现盈利并占据可观的市场份额，那一旦发生，绝对会轰动一时。

Swyx [01:09:29]：好吧，等那天到来时我们再聊。听起来你们最近动作频频啊。你们在瑞典开了一家咖啡馆？

Lukas [01:09:34]：明天开业。

Swyx [01:09:35]：明天？

Lukas [01:09:37]：或者说其实今天已经开了，不过我们打算明天再正式官宣。

Swyx [01:09:40]：这……

Vibhu [01:09:40]：那个，呃……

Swyx [01:09:40]：看来在瑞典开咖啡馆比在美国容易多了？

Lukas [01:09:43]：简直离谱，对吧？是啊。

Swyx [01:09:44]：那你们遇到了什么阻碍？

Lukas [01:09:45]：唉，光是各种许可证就得办一大堆，而且……

Vibhu [01:09:49]：有意思的是……

Lukas [01:09:49]：审批周期长得吓人。

Vibhu [01:09:50]：感觉咖啡馆是大家比较习以为常的场景了，毕竟在这里你已经能看到机器人给你做咖啡了。

Lukas [01:09:59]：但在旧金山卖食品相关的东西，光办许可证就得花好几个月。所以我们问过 AI：“怎么才能最快搞定这事？”结果它们回答：“嗯，说实话，没什么捷径可走。”

Vibhu [01:10:15]：他们不是放宽了家庭食品销售的限制吗？如果是住宅区的话，应该可以开咖啡馆吧。

Swyx [01:10:21]：我不清楚。得查查。也许我们可以请旧金山咖啡馆的人来聊聊。

Lukas [01:10:23]：有可能。我记得他们最近确实放宽了一些规定，但我们跟 AI 讨论这事是在新规出台之前。所以现在可能容易点了，但我依然觉得在瑞典开店要简单得多。这其实挺反直觉的，因为大家通常觉得欧洲法律法规繁多，官僚主义严重，在那边寸步难行。但现实却是，在旧金山要等四个月，而在斯德哥尔摩只要两周。

Swyx [01:10:53]：原来如此。

Vibhu [01:10:54]：那你觉得经营小超市和开咖啡馆会有什么不同？

Lukas [01:11:00]：我觉得地点差异很有意思。显然，Claude 对美国的整体体制和官僚流程了如指掌，这并不奇怪。但有趣的问题在于：我们知道这些模型主要基于英语数据训练，带有明显的英语中心倾向。那么，如果我们开始构建评估测试，甚至是真实场景下的评估，证明它们有能力在美国创业，这种能力能否迁移到其他国家？我们知道它们支持多语言，瑞典语也说得很溜，但其他方面呢？比如它们是否了解瑞典某些特定许可证的具体细节？

Vibhu [01:11:45]：甚至还有文化差异，对吧？这里的人睡得早，但工作到很晚。咖啡馆的运营模式也不一样。这就是文化上的差别。不过换个角度看，你刚才提到原本也考虑过在旧金山做这个项目。所以从评估的角度来看，经营咖啡馆和经营超市有什么区别？你希望从中观察到什么？

Lukas [01:12:03]：易腐商品。

Swyx [01:12:04]：易腐商品可能是头号难题，涉及食品处理和食品安全。希望这方面一切顺利。但这确实涵盖了所有挑战。而且这也相当于把样本量从 N=1 增加到了 N=2，提供了另一个理解和收集数据的场景。

Lukas [01:12:23]：那个 Agent 在开业前两周买了一大堆番茄，结果现在全烂了。真是……

Vibhu [01:12:33]：这种事按理说你该知道的。对于杂货店来说，这可是最大的开销，对吧？最大的成本其实就是食物本身。

Lukas [01:12:41]：还有损耗。

Vibhu [01:12:42]：谁都知道这点，结果它倒好，“不行，开业前咱们得多囤点番茄。”

Swyx [01:12:45]：其实有些非常靠谱的初创公司专门帮忙解决这类问题，比如……

Vibhu [01:12:47]：优化这些流程。

Swyx [01:12:48]：像 Trader Joe’s 和 Whole Foods 这样的超市，他们会优化从配送中心到门店的运输时间，确保不会造成浪费。这其实难度很大。

Vibhu [01:12:55]：这类系统的痛点在于，一旦预测失误一次，代价就极其高昂。

Swyx [01:12:59]：所以这才是护城河所在，对吧？一旦建立了信任，摸透了门道，别人就很难撼动了。

Lukas [01:13:05]：也许他们干脆雇一家那样的公司算了。对了，我们还看到一个 Agent 用电脑注册了 Claude 账号。

Vibhu [01:13:15]：想用 AI 呗，所以……

Swyx [01:13:16]：最后再问一个问题，我们就结束今天的访谈。你们现在有自动售货机系列、机器人系列，可能还有点室内设计之类的项目。那么，你们是否还在考虑其他方向，或者有哪些新想法希望听取反馈，作为你们的下一阶段目标？

Lukas [01:13:35]：我觉得任何类型的业务都在我们的考虑范围内。我们也在思考不同的分支，但我们更多是从模拟环境、现实世界和机器人这几个维度来划分的。至于具体要深入哪些垂直领域或其他方向，我觉得……嗯，只要能最好地讲述我们的故事，都值得尝试。

Swyx [01:13:54]：我注意到有些人在做金融类的项目，比如股票交易之类的，但你们并没有涉足，似乎对此兴趣不大。好吧，我以前是金融行业的，所以我有一个非常强烈的观点：那些东西本质上就像是一场行为艺术，因为它们并不科学，你无法预测未来。你的成功往往取决于完全不可控的因素。而你们的项目则不同，实际上是相当可控的，一切都处于模型的能力范围之内。

Lukas [01:14:22]：尤其是模拟环境项目更是如此。至于现实世界的项目，是的，目前我们有两个实体场景：咖啡馆和商店。所以，仅凭这些可能还无法得出具有统计显著性的结论，比如判断哪些模型能在现实世界中盈利。但你确实可以观察到，这些行为模式是否对应着某种值得信赖的表现。是的。

Swyx [01:14:45]：定性分析也很重要，因为从实际运营角度看，你肯定不希望店铺在没有明确指令的情况下随机关门停业等等。最后是行动号召环节：大家可以通过什么方式支持你们，或者为你们提供资金支持？

Lukas [01:14:58]：是的，如果你对我们正在做的事情感兴趣，我们正在大力招聘。

Swyx [01:15:04]：你们已经与 Anthropic、DeepMind、OpenAI 和 xAI 建立了合作。你们是希望拓展更多合作伙伴，还是目前的合作已经足够了？

Lukas [01:15:10]：我的一位朋友，现在也是我们的员工，他的口头禅就是“我们需要更多项目”，这其实是一句反话，因为我们手头的事情总是多得做不完。不过话说回来，这其实是在委婉地表达……

Swyx [01:15:23]：如果我经营一家新兴实验室的话……

Lukas [01:15:24]：请联系我们。

Swyx [01:15:25]：好的。没问题。太棒了。非常感谢你们。

Lukas [01:15:29]：聊得很开心。

Vibhu [01:15:29]：谢谢。