Will the real Anthropic please stand up

但Anthropic多年来一直在磨练其讲故事的技巧。事实上，其公开信息传达堪称叙事控制的典范。

本月早些时候，公司联合创始人兼政策负责人Jack Clark在曼谷举行的国际货币基金组织（IMF）会议上发表演讲，向在场的经济学家、银行家和立法者宣布，奇点已经到来。

这个概念由科幻作家兼未来学家Vernor Vinge在40年前提出（长期以来在互联网的极客圈层中被激烈讨论），奇点被定义为技术发展到超越其创造者能力的临界点。

按照这一设想，人类将被远远甩在身后，再也无法与——甚至无法理解——自己曾经创造的成果竞争。

而我们小时候想象过的那个虚构世界？显然我们已经身处其中：“我认为今年我们已获得确凿证据表明奇点已经开始发生，”Clark对听众说道。

该公司描绘了一个未来图景：它将技术描述为神秘且危险的，声称自己是唯一能够驾驭这种技术的可信公司，并将这一未来描绘为不可避免但尚未发生的场景（经常借用科幻作品的经典梗）。（哪家投资者不希望参与其中？）

再举一个例子。去年，另一位联合创始人Chris Olah受邀向梵蒂冈发表演讲，他向教皇利奥十四世及其他宗教学者和官员介绍了公司对其技术的研究成果。“我坦白说：我们不断发现一些令人费解甚至不安的现象，”他表示，“我们发现了自我反思的证据。我们观察到内部状态在功能上与喜悦、满足、恐惧、悲伤和不安等情绪相呼应。”

尽管许多研究人员会对Anthropic软件具有类人内在体验的这种明显暗示嗤之以鼻，但当一切似乎都不确定时，Anthropic（及其同行的前沿AI公司）所说的每一句话都会被像抓住沉船残骸般紧紧抓住。

我并不是说他们关于这些的判断一定错误。（这留待日后讨论。）但在一个无人知晓未来将发生什么的世界里，Anthropic这样的公司得以填补真空。

花点时间思考一个问题：Anthropic究竟是什么？ 这可能听起来像是家庭问答节目中一个简单的入门问题，但答案可能比你想象的要困难得多。

这个问题一直萦绕在我的脑海中，源于上周Nathan Calvin在X平台上发起的一场讨论。Nathan Calvin是华盛顿特区的Encode AI组织（一个倡导监管的机构）的首席战略官，他对此感到不满，因为Anthropic秘密向美国立法者提交了一份草案法案（该法案随后被泄露）。

“Anthropic希望被视作好人，”Calvin表示，“但我们凭什么信任它？‘Anthropic究竟是什么？’他问道。

一个答案是：Anthropic是一家估值超过1.5万亿美元的公司，其联合创始人（包括Clark和Olah）因此获得了巨额财富。

但 Anthropic 始终坚持认为自己不仅仅是一个技术公司。正如 Calvin 所指出的：Anthropic 可以被视为一个专注于开发可靠且（几乎）零风险强大技术的人工智能安全组织。或者，它也可以被视为一个不惜一切代价创造具有超人能力技术的团队——也许是因为他们相信自己是做这件事最负责任的人，也许是因为他们的自尊心。

事实上，Anthropic 同时具备所有这些特质。 CEO Dario Amodei 在 回复 Calvin 的帖子 时这样说道："我们的战略始终是所谓的'登顶竞赛'——通过展示如何负责任地构建技术，我们可以为整个行业树立更高的标准。当实践这种战略的公司处于技术前沿时，推动登顶竞赛的力量会变得异常强大；这是我反复学到的重要经验。从整体来看，我对我们迄今为止的表现感到自豪，并始终支持这一战略。"

Amodei 的表述让人感觉他已将所有问题都考虑周全，但同时扮演多重角色确实充满挑战。例如，人工智能安全组织的目标与以盈利为导向的巨型企业的优先事项之间存在巨大张力。（Amodei 在 他的帖子 中承认自己曾犯过错误。）

最终，Anthropic 对自身讲述的故事应该帮助我们理解它向外界传达的故事。这些故事应该帮助我们判断对其自我监管的信任程度，或者是否应该迫使它按照我们的条件而非其自身条件，向外部安全测试人员开放其模型。当看似出于自利目的的立法出现时，这些故事也应该帮助我们决定是否应该对其持怀疑态度。

但我认为这些故事揭示了一个多头的水妖。Anthropic 对不同的人来说意味着不同的事物，而这种复杂性并不一定使其更值得信赖。在许多方面，一家传统的技术公司——没有科幻角色扮演，没有玄学色彩——反而更容易理解。