InfoQ

Presentation: You Can't Trust Your AI Bill. And Neither Can I

6.9内容质量
Presentation: You Can't Trust Your AI Bill. And Neither Can I

TL;DR · AI 摘要

You Can't Trust Your AI Bill. And Neither Can I - InfoQ InfoQ Homepage Presentations You Can't Trust Your AI Bill. And N...

核心要点

  • 主题聚焦:Presentation: You Can't Trust Your AI Bill. And
  • 来源:InfoQ,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#前端#后端#云计算
打开原文

你无法信任你的AI账单。我也不信任 - InfoQ

InfoQ 首页 演讲 你无法信任你的AI账单。我也不信任

人工智能、机器学习与数据工程

从Token到特征:构建AI辅助工程的成本归因(网络研讨会10月29日)

你无法信任你的AI账单。我也不信任

点赞

新下拉阅读列表

  • 阅读列表

查看演讲

  • 垂直
  • 水平
  • 全屏

速度:

  • 1x
  • 1.25x
  • 1.5x
  • 2x

50:02

概述

Erik Peterson讨论了为何AI支出正在超越云账单,引发重大软件工程成本危机。他解释了tokenmaxxing、单位经济、强制开发者晋升,以及为何到2028年完全自主的AI将编写、部署并管理代码。

个人简介

Erik Peterson,CloudZero创始人兼首席技术官,是工程驱动型云成本优化领域的先驱。拥有20多年软件初创公司经验,他热衷于高效成本工程和强劲利润率。作为AWS大使和无服务器架构倡导者,他也是曾经历过应用安全挑战的幸存者,积极为FinOps、DevOps和云经济学社区做贡献。

关于会议

QCon AI是由实践者主导的活动,专注于安全扩展这些工作负载所需的工程学科。它直接提供同行组织在生产环境中使用的架构蓝图和失败指标。

INFOQ 事件

  • 2026年10月29日,东部时间下午1点 从Token到特征:构建AI辅助工程的成本归因 演讲者:Martin Reynolds - Harness的现场首席技术官

演讲稿

Erik Peterson:我将谈谈账单的问题。我们有很多关于正在构建所有美好事物的讨论。我认为我们真的到了一个阶段,我们正在构建大量伟大的东西,但账单总有一天会到来。我想分享一些我看到的、我公司看到的内容,并对我认为事情将如何发展做出一些大胆的猜测。你们可以监督我是否准确。坦白说,这是一场混乱。我是谁?我是Erik Peterson,CloudZero的首席技术官兼创始人。我在波士顿创立了这家公司,时间是2016年。到明年8月,公司成立将接近10年。过去10年是一段疯狂而刺激的旅程。没有人能预测现在发生的事情,或者可能有人预测到了。我确信有人预测到了。CloudZero是云和AI的财务控制平面。我将分享一些数据。六个月前,我们注意到账单中出现了一些有趣的变化。

听起来有点反乌托邦式。也许这是人类进化的必然方向。我真心希望如此。我们确实存在。这需要花费金钱。账单最终会到来。账单金额令人难以置信。我们曾听到过如此惊人的言论。有多少人看到过这种情况?仔细想想。假设你现在的年薪是X,如果到年底你没有花掉一半的薪水,Jensen会认为你不是优秀的工程师。他将彻底崩溃。我认为这可能始于某个时刻,或者恰好发生在tokenmaxxing的宇宙中心。Tokenmaxxing,这个词对世界造成了什么影响?这可能是IT历史上最昂贵的虚荣指标。很难准确估算其具体金额。大约在50亿美元到150亿美元之间。有多少人曾遇到过老板、经理或CEO盯着AI排行榜(他们称之为排行榜)来判断组织内谁在用AI做他们期望的事情?

他们知道吗?不。他们清楚地知道,如果你没有花钱,就一定出了问题。这是有史以来最疯狂的事情。我们就这样存在着。我认为这个词最早出现在三月份,五月份就被宣告结束。我认为它仍在持续。我认为我们仍在经历这一切。过去几个月发生的事情,非常具有预示性。

我认为AI也会夺走你的工作。如果那颗陨石还不够吓人。去年我会坚定地认为这完全不真实。我错了。去年我会说,你不会因为AI而失业,而是会因为使用AI的人而失业。实际上我认为正在发生的事情是,我们正在获得升职。这是一种被迫的升职。我们必须接受并改变。对我来说,没有什么比过去的一个故事更能说明这一点。我在IT领域第一份工作是在电脑支持岗位,当时有两位女士走进我的办公室。她们说,我们以前在这个办公室工作,然后你们这些带着电脑的人来了。我们当时有六个人使用打字机。打字机有真实的触感,而电脑则毫无灵魂。

你们夺走了我们的工作。在AI时代,打字机再次出现。我们必须弄清楚我们能获得什么样的升职。我认为明年我们真的会困惑,我们的工作现在是什么?肯定不会再是执行工作本身,而可能是管理工作。我们的品味可能成为唯一重要的因素。

承诺与现实

这将影响我们今天整个对话的基调。这就是承诺与现实的对比。别担心,AI不会夺走你的工作。我认为它确实会夺走你的工作。别担心,代币的价格会下降。实际上代币价格确实下降了,但我们花的钱却略多了一些。事实上,代币价格下降了很多。AI让我们所有人更加高效。在座有多少人感觉自己更高效了?我觉得自己效率很高。如果看代码行数、PR数量、提交次数,所有数据都在上升。有些日子我会怀疑,我是不是在盲目产出?我们仍然不擅长衡量开发者效率。我们还没有真正搞清楚这个问题。我认为情况只会变得更糟。别担心,成本曲线只会继续下降。实际上我们的支出已经增长了三倍,而且还在继续增长。

故事线

以下是今天的故事情节:坦白、日食、反转、后续,以及希望我们能从中带走的一些有助于我们的东西。

第一幕:坦白——你无法信任你的AI账单,我同样无法信任

我有一个坦白。我创建了一家公司,开创了这个领域,但就连我自己的账单我也无法完全信任。我整天都在查看来自云服务提供商、AI服务提供商以及街头随机人士发送到我们系统的成本数据。这简直是一团糟。任何告诉你这些数据是干净、简单且只是数据的人,都忘记了某个事实:我们都知道,数据背后潜伏着未知的风险。当我们深入查看AI账单时,实际上背后到底发生了什么?仅仅是推理?仅仅是输入和输出的代币?其中发生了许多事情,很多内容被隐藏、埋没,甚至从未向我们披露,只是直接计入了账单。至少当我们查看亚马逊或谷歌账单时,能看到我在EC2上花费了这么多,在S3上花费了这么多,至于其他项目,至少还有明细清单。

至少我还能看到明细。我们不知为何又回到了一个世界,现在收到的账单与我过去100年从电力公司收到的账单形式完全相同。你花了500美元购买了10,000千瓦时的电力。这是在做什么?获得了什么?提供了什么?是我忘记关灯了吗?烤箱开着?空调运行了?我不知道。我们不知为何又回到了100年前那种毫无变化的状态:10,000千瓦时,一百万代币。在这些看不见的细节背后,有很多需要解读的内容,多到甚至马里兰大学的研究人员不得不提出全新的方法来应对。他们称之为CoIn(隐形成本),发现背后存在大量难以察觉的支出。屏幕上显示的内容并不一定等同于你实际支付的费用。有时这些费用与模型变更、天气变化、我们无法获知的其他因素有关。10,000千瓦时的电力,是否因为树枝碰到了电线导致电力供应变得异常?我们无从得知。情况实际上变得更糟了。

没有人能就单位达成一致。如果我们尝试分析实际传入的数据,没有人能确切地定义这些数据到底是什么、意味着什么。我们有针对代码、图像、音频的不同计费公式。有些内容会因“静默”而收费,有些内容的计费方式完全不同。这简直是一场混乱。他们使用不同的术语、不同的格式、不同的数据结构,几乎所有东西都不同。当你试图整合所有数据时,这会带来巨大问题。这些都是随机的供应商实现细节。我们实际上倒退了100年。价格本身也没有任何逻辑。我真的想知道为什么o1仍然存在,它比其他方案贵了7.5倍。你完全没有理由使用它。有大量性能远超它的模型,价格却低得多,但o1依然存在。某个企业、某个地下室里运行的代理程序,可能正在消耗着代币,这或许就是维持OpenAI运营的关键。

他们感谢你提供的服务。其他供应商,比如我认为谷歌会在一年后关闭模型。也许他们是在帮所有人一个忙。OpenAI则会保留一些东西很长时间。或者可能是微软。选择一个区域。你可能会想,我只在美国保留,这样会更便宜。而不是使用多区域。多区域听起来更昂贵。不,选择一个更昂贵的区域。你不选择区域,反而会花费更多。这是一个功能。他们改变了分词的方式。token成本上涨了35%。所有这些变化都超出了你的控制范围,除了你选择的模型。这些API本身,也就是我们获取数据的接口,它们已经失效了。如今我们不需要再讲述关于系统运行时间和可用性的故事,这很有趣,如果你是GitHub的客户,你会发现这个数字似乎变得不那么重要了。

这种情况正在到处发生。这就像过去的日子,“AWS宕机了,我们一起去吃个饭吧。”“Claude今天宕机了,我今天什么都做不了。”当我们试图获取成本数据时,每天都会遇到500错误。当我们试图从OpenAI获取信息时,每天也会遇到500错误。Cursor中只要有一个错误记录,整个系统就会崩溃。这是一团糟。这只是过去90天发生的事情。如果你认为这些变化是经过长期演进的,那不是的。这些变化正在实时发生。实际上,我认为这是我有史以来最难准备的演示,因为我写下了一些内容,第二天查看信息时却发现,新的内容已经出现,我之前写的已经过时了。直到三月份之前,我们甚至没有一个合适的API来获取Anthropic Enterprise的计费数据。如果你在claude.com上,你可以获取你的计费数据。但如果你在claude.ai上,这两个平台差异巨大,你却无法获取。只能通过截图,然后从他们的网站下载一个电子表格。所有这些混乱,仅仅在过去90天内就发生了。

第二幕:日食 - 所有成本正在吞噬云账单

发生了什么?其实很简单。AI将彻底取代云账单。云及其所有增长、所有疯狂、所有从数十亿向万亿发展的趋势,如果我们只看过去几个月发生的事情,那只是即将到来的风暴的热身赛。Anthropic的使用情况和费用增长曲线向右上方飙升,这简直令人难以置信。以前从未发生过类似的事情。这只是热身赛。我相信所有云支出最终都将被AI吸收。未来只有一件事,那就是AI。就在几天前,这些疯狂的事情接连发生。我们谈论的是数十亿甚至数万亿美元的交易。资金流动,谁知道会流向哪里?人们纷纷做出巨大断言,声称计算资源将如何被使用。这完全是一场全新的游戏。我们曾认为云服务很昂贵。不,这与当前正在支出的金额相比,只是一个微不足道的误差。

我认为这将导致一场变革进程,其速度将快于我们任何人所预期的。我曾以为自己疯了,实际上很多人也这么认为。我从2025年1月开始承诺只使用AI来编写代码。到年中时,我确信未来所有代码都将由AI编写。如果你和加州的任何人交谈,他们也会这么认为。而其他地方的人则表示不确定,有多少人认为未来所有代码不会由AI编写?我们将在一年后讨论这个问题。所有代码最终都会由AI编写,我认为这将比任何人想象的都要快。我认为最终我们将迎来我称之为“完全自主的云”的时代,那时AI将编写代码、部署代码并管理代码。

所有操作都将以自主方式运行。我们所熟知的云服务将不复存在,它将消失。我的预测是,到2028年这一切都将完成并得到解决。我们拭目以待。你可以选择稳妥的押注,但我认为自己还没有足够激进。这不会是融资机制。一个有趣的事实是,所有AI初创公司的总投入仍比云服务商在AI领域的总资本支出低8倍。这个巨大的差距究竟如何弥补?这里涉及800亿美元。800亿美元似乎是一个很小的数字。到底发生了什么?如果我们观察这两家巨头,他们都在大量烧钱。他们对财务数据的解读方式截然不同。Anthropic表示,他们基于财务报表实现了5%的利润率。

OpenAI则亏损了122%。令人震惊。两家公司都在API调用上实现了约80%的利润率,他们实际上在盈利。这场AI成本危机也强化了这一趋势。这可能是科技史上利润最丰厚的供应链。这些数据都是真实的。我们被收取的费用和实际支付的金额。我们如此急于抓住这个机会,以至于在某个时刻停止了关注。我们已经见过这个环形图表几次了。这个环是真实的。每次我转身,就会发现一个新的方框需要添加到环中。我认为只要这个循环持续流动并旋转,我们就会没事。继续旋转,继续旋转,我们就会没事。我希望如此。否则,我们将面临棍棒、石头和各种困难。

第三幕:倒置——构建成本超越服务成本

这种倒置是某些CFO开始注意到的神奇现象,即构建成本现在成为最昂贵的部分,而非服务成本。服务成本曾是我为交付云计算和向客户提供服务所支出的费用。构建成本则是我们为建造、维护和部署这些系统所支出的费用。不知何故,构建成本变得更为昂贵。我知道在座很多人可能听说过杰文斯悖论。我不认为很多人真正停下来讨论这个理论有多古老,它诞生于1865年。我非常喜欢这一点。我们讨论的电力账单看起来就像西屋公司200年前给我的账单。我们讨论的是斯坦利·杰文斯对煤炭的担忧。请务必深入理解这一点,因为杰文斯悖论正是所有问题的核心所在。

我们越是提高某物的效率,就越会消耗更多的该物。我们正在努力提高效率,或者至少尝试这样做。现实情况是这样的:每令牌成本下降了1000%,但我们的企业支出却增长了222%。这就是所谓的反向效应。我们看到的正是这些真实数据。这就是影响和结果,正在发生,而且现在正在发生。CloudZero观察到的现象是确凿证据,证明这一现象非常真实。过去五个月内,生成式AI支出增长了14倍。其中80%似乎属于额外开销,这些开销来自各种疯狂的请求、系统、研发和人力成本,以及Claude代码支出。将所有这些因素混合在一起。每当有新模型发布时,客户就会陷入疯狂。有位客户在一个月内从0增长到200万美元,仅仅是因为出现了新模型,其他条件几乎没有变化。

那么,谁在使用更便宜的模型?你们中不到2%的人在使用。我们都急于追逐新事物。Haiku仍然能完成一些出色的工作。实际上,Haiku是唯一能回答“一周中有多少天的名称包含字母D”这个问题的模型。去问Opus 4.8这个问题吧。昨天它给出的答案并不理想。我特意提到“昨天”,因为很可能有人正在实时硬编码答案。CFO们正在做数学计算。我们必须思考的问题是:应该关注令牌成本还是人力成本。我曾看到几位CFO使用电子表格,将工资与令牌成本进行直接对比。不相信吗?这就是为什么我们必须用不同的方式思考工作。NVIDIA正在讨论这个问题,CFO们也在讨论。我们正在见证这一现象的发生。我希望我们都能享受这个未来。这应该是一个令人欣喜的未来,我们都能获得晋升。现在,我们必须开始用不同的思维方式思考。

第四幕:后果 - 如果钱已经花完,警报也无法帮助你

这一切的后果是什么?我们听说过Uber。每个人都在谈论Uber,他们花了这么多钱。他们并不是唯一的例子。摩根大通也做过类似的事。微软就在几天前宣布,停止使用Claude。当然,他们有充分的理由让人们停止使用Claude。这是真实发生的。人们开始感到恐慌。有趣的是,尽管如此,Uber仍在持续支出,也许是因为他们确实完成了某些事情。我收到过一个故事。有人表示,他们今年将花费约400万美元,仅在本季度就已支出约40万美元。谁能做到这一点并存活下来?我的反应是:谁被解雇了?对方回答:不,我认为有些人反而获得了晋升。这是怎么回事?Uber的CEO介入后表示:等一下,我们花掉的这些钱和最终结果之间有什么联系?这是需要提出的重要问题。

这是我想让我们所有人思考的问题。我们如何将正在花费的钱与业务成果联系起来?氛围编程。我之前参加过SaaStr大会,听到Jason Lemkin在台上实际说过这些话。他谈到自己如何重建整个组织,原本有20到30人的团队,现在只剩下两个人和一条狗,他们用Replit处理所有事情。他说每分钟一美元。当人们站起来提问时,有人抱怨这种氛围编程的垃圾代码简直让人发疯。他回应说,是的,但我们不都坐在这里吗?事实上,这是我举办过的最成功的会议,只有两个人。这很可怕。

我们也在不断尝试将更多内容塞入上下文窗口。我现在在Claude中拥有一百万的上下文窗口,这太棒了。让我往里面塞更多内容。让我将30个不同的MCP服务器链接到这个系统中。让我把所有东西都链接起来,然后直接全部倒进去。等等,为什么我整天都要花时间修复自己刚创建的bug?MCP税是真实存在的。

几天前,Netflix又在尝试压缩输入端的token消耗,试图分解这个问题。如果你不花时间在你使用的系统前,定期磨利锯子,你绝对会消耗大量token。每个人的token支出并不相等,这很有趣。我一直在观察我们每个工程师使用这些工具的情况,查看他们的支出和产出。支出差异巨大,但结果却相似。有些人做事方式与其他人不同。很大程度上取决于你如何填充上下文窗口,以及你如何思考规划、启动任务,或者只是用那种一次性的氛围代码小车直接冲向价值列车,无论你怎么称呼它。我们做的不仅仅是编码,还包括构建的系统。

我见过太多循环,一些东西坏了却持续数天数夜地消耗资金。这是一个从客户案例中摘取的例子。我去年在QCon上做过关于百万美元代码行的演讲,我认为在某些方面我正在接近十亿美元代码行。安全问题也不能被忽视。我第一次在QCon上演讲是在2018年,当时我创造了"钱包拒绝"(Denial-of-Wallet)这个术语,这个概念至今仍然存在。我认为下一次攻击将通过我们自己的系统发起,获得对AWS环境的访问权限,找到Bedrock,然后利用我们的AI token从内部彻底控制我们。当我们离开时,我们将没有任何数据,甚至更少的钱。这次攻击即将来临,攻击者甚至不需要为此付费,他们会直接向我们收费。

我们研究过的每家公司都有大量的仪表板。看看我用Grafana、Datadog或CloudZero构建的这个惊人的仪表板。他们设置了预算警报,但没有人真正关注这些警报。事实上,很多人收到预算警报时,会下意识地问:我能关掉这个警报吗?这样会不会惹上麻烦?CEO说过"tokenmaxxing"是允许的。我认识的朋友中有人亲眼看着数万美元在一个周末内被花掉,他们甚至觉得如果提出异议就会被解雇。这种情形令人不寒而栗。我们必须讨论清楚什么程度的支出是不可接受的。目前没有任何按调用次数、用户数量或任何其他维度设置的限制。我们过去在云服务时代曾对此感到恐惧,但实际造成的损害究竟有多大?如果让公司里每个工程师都有可能在12小时内花费5000美元,那么你就会开始意识到设置限制究竟有多重要。

任何规模的公司如果放任不管,都可能在几周内花光全部资本。目前没有任何限制机制。在座各位都绝对确信自己是安全的吗?"钱包拒绝"攻击正在逼近。有些公司将会因此倒闭。

第五幕:换位思考 - 每个决策都成为购买决策

我们必须用全新的视角来看待这个问题。现在每个决策都变成了购买决策。所有事情都是如此。上次有人用Google搜索是什么时候?我对Google没有不敬,但事实是:搜索曾是免费的。当我计划周末约会时,我用的是Perplexity,用的是Claude,而不是Google。当我需要查找路线时,我没有打开搜索引擎,而是询问了LLM。我为此付了钱。我们所有人都在为此付钱。请在座各位暂停一下,想想你们做过多少以前可以免费通过搜索网络完成的事情,现在却转而打开了Claude、ChatGPT或Perplexity的窗口。然后问问自己:我刚才做的是公司行为,还是个人行为?

每年都会发布一份关于云资源浪费的报告。报告指出云浪费现象,并且这个数据在过去十五年里一直停滞在30%左右。报告称所有云资源中有约30%属于浪费。如果我们停止进行免费的Google搜索,转而将所有问题都输入工作中使用的AI系统,那么这种浪费数据会变成什么样子?这还是浪费吗?当公司发现他们在这些AI服务上的支出时,你真的会想知道企业版"老大哥"会是什么样子。有多少人准备好让自己的聊天记录被全世界看到?即使你尝试使用匿名模式,也许你正在使用代理。现在每个决策都变成了购买决策。我们必须用全新的方式思考这个问题。

让我带你看几个重点。我们必须停止追问我们花了多少钱。实际上,我认为这种对成本的执着正在消耗我们。当我们只关注花了多少钱时,就会忘记真正重要的问题:这值得吗?我到底在尝试做什么?我试图构建什么?为什么我要构建它?我试图服务谁?这一切的目的是什么?我认为这也与我们思考未来工作形态的方式有关。我们有机会更加专注于结果,更加痴迷于结果。如果你痴迷于成为一名工匠,编写有史以来最优秀的代码,我对你充满同情。说实话,我以前也梦想过写出最优秀的代码。

我已经放弃了那个梦想。但从某种角度来看,这其实并没有太大区别,因为我不再像编译器完成后那样去查看机器码,确保它正确地进行了转换。不,我们只是用自己熟悉的语言进行表达,让它们被转换成代码,然后停止查看代码本身。我有个坦白:我已经不再查看代码了。这是最简单的处理方式。我关心的是结果,关心测试、验证和证明,证明产出的东西是否满足了需求或使用场景,但我对代码本身已经不再那么在意了。所有被生成的代码最终都会是大型语言模型以最高效的方式产出的内容。

这可能不是汇编语言。目前看来,大多数大型语言模型并不擅长汇编语言,它们现在更擅长JavaScript和Python。我认为随着时间推移,生成的代码会是某种对大型语言模型来说极其高效的编程语言。我认为这是不可避免的。我们必须停止思考我们花了多少钱,就像我们曾经必须停止思考我们创造了什么一样,因为我们现在需要思考结果。我们花了多少钱?不,这值得吗?作为建造者和创造者,我们必须思考:我构建的推理过程、模型和内容,是否真的必要?我是否真正达到了正确的结果?我真的需要匆忙切换到Opus 3.8吗?我能否将这些技术混合使用?这些模型各自真正擅长的是什么?这不像从286升级到Pentium那样简单直接。

No. 它们是针对不同任务的不同工具。我们思考的方式有误。如果我们仓促行事并导致这些系统崩溃,我们的回滚计划是什么?我们是否会回过头来仅仅关注结果?我之前没有充分讨论这一点,但也许可以专门就此话题做一场完整的演讲。人们在评估(evals)上投入的资金有时甚至超过了生产系统的成本,这是一个有趣的观察,尤其是对于使用“LLM作为裁判”这类方法的人而言。我们在这些评估上花费了多少?实现质量有多种方式。当这些系统脱离我们的控制,自行运行并探索世界时会发生什么?我们是否意识到这一点?我们是否会收到警报?这能带来什么样的商业成果?我们应当为此感到欣喜。这是一次让我们更贴近客户、更接近我们所追求的价值的机会,更接近我们希望看到成功的企业,希望如此。或者,也许更好的是,我们每个人都可以创办更贴近客户的公司,并对结果拥有前所未有的掌控力。我希望看到更多这样的公司诞生。

当我们思考如何改变工作方式时,我希望我们所有人都不要想着成为完美的工匠,而是思考如何引导那群代理(agent),引导那些将为我们工作的AI员工。关于这一点有一个有趣的笑话,这正是它的来源。一个农民对一匹马解释道:“别担心,你不会被拖拉机取代,但你可能会被驾驶拖拉机的马取代。你最好去学习如何驾驶拖拉机。”我们都必须学习如何驾驶拖拉机。我们还必须衡量正确的事物。如果我们衡量每个token的成本,你的团队就会优化每个token的成本。这正是古德哈特定律(Goodhart's Law)的充分体现。亚马逊曾设有排行榜,但最近已将其撤下。

对他们来说这是好事。我不知道该如何向我们的上司解释,这个AI排行榜其实是个坏主意。我仍然经常听到相关问题。人们花了多少钱?为什么这个人只花了2美元?他在做什么?他现在还在这里工作吗?他只花了2美元。这并不健康。希望我们能通过所有这些经历更好地思考结果。我的一位好朋友,一位资深工程师,多年来一直与他一起处理同样的问题。我问他:“问题是什么?”他回答:“我进入这个行业是因为我热爱编写代码。我不希望AI来写代码,我想要自己写代码。这很有趣,我享受这个过程。”我对你只能表示同情。我不知道该说什么。你将和二十年前、三十年前走进我办公室的那些友善女士一样,她们当时说:“以前我们六个人在这里用打字机打字,后来你们这些计算机的人来了。”变化是不可避免的。

结果导向的指标更有效。它们能推动更好的结果。有四个指标我认为你应该深入思考并内化。我坚信单位经济模型的重要性。你所从事的每项业务成本是多少?如果你还不清楚,现在就应该了解。这可能是世界上任何按需云构建系统最重要的性能指标。它揭示了你收到的那张100万token账单背后隐藏的信息,但账单本身却无法告诉你你实际做了什么。这是最令人厌烦的匿名信息来源,它对你的实际成就一无所知。你需要想办法拆解这些数据。这个功能驱动了什么?这个功能带来了什么结果?我们环境中的自主性(工程师加Claude Code)成本是多少?

他们是否以五分之一的成本实现了十倍的产出?如果实现了,那太好了。你必须考虑经济性。我向你保证,你的CFO肯定也在关注这一点。最近我看到很多关于工程组织的讨论逐渐转向了财务部门。你可能听说过FinOps这个术语。FinOps通常属于工程组织内部,他们非常关注云账单。我仍然非常关注云账单,因为这是一笔巨大的开支。AI相关的讨论已经转移到CFO办公室,因为其影响太大。这不是预算问题,而是损益表问题。这意味着拥有查看所有人薪资权限的人,也在同时审视其他所有因素。这些电子表格确实存在。你必须提前做好准备。我们使用模型实现目标的效率如何?这样我们或许能真正理解,当下一个模型推出时,是否值得升级。

所有自主性带来的利润率或利润提升是多少?不要从个人角度去思考。这与个人无关,这只是商业问题。我认为我们实际上需要开始将单位成本或利润率数据作为信号,直接输入到系统本身中,以指导系统如何运作。这是顶级客户吗?也许他们不应该使用最昂贵的模型。也许他们不应该使用完全相同的系统。这个客户的终身价值是多少?这是免费层级的用户吗?我们是否在同一个模型上将最高利润率层级与最低层级混用?根据利润率或利润目标进行路由。这仅仅是单位经济模型的问题。这并不是真正的优化,这只是商业本身。这是明智的商业决策。

周一停止做这五件事

如果你综合考虑了以上所有内容,那么周一你必须停止做以下五件事。停止认为仪表盘能拯救你。事实上,未来没有人会再查看仪表盘。如果你还在查看仪表盘,我甚至不知道你为什么要查看。我从不查看仪表盘。这些系统的头号用户本来就是AI,他们宁愿查看JSON数据。他们不想看仪表盘。是的,你可以将截图粘贴到仪表盘中,但用其他方式处理效率会高得多。仪表盘只是对发生过的糟糕事件的回顾,因为这些数据变化得太快了。目前很多CFO正在惊慌失措,并开始谈论一些他们以前从未提及过的内容,即实时数据。这很疯狂,因为他们习惯以月和季度为单位思考问题。

不要将每单位代币的成本作为你的主要KPI。不要浪费时间。不要忘记考虑单位经济性。你所做的事情的成本是多少?目前所有这些都只是为你做出的决定。没有人有意识地思考这些事情。你需要有意识地思考这些事情,否则它们现在正在或将会让你付出代价。

关键要点

我最后想告诉你的是,到2027年,我确信这将成为现实。事情可能会发生得更快。未来,技术、云资源以及你环境中各种事物的主要购买者将不再是人类,而是自主AI系统。你还记得那个杰文斯曲线吗?代币成本下降,总支出却上升?目前我们看到的支出主要由构建成本驱动,而非服务成本。当这种情况发生时,构建成本和服务成本将再次趋于一致。我们将面对更陡峭的曲线,因为我们需要消耗代币来编写代码,消耗代币来部署代码。代码本身将决定它在何时、何地以及如何运行。我们需要为一个可以治理这种现实的世界做好准备。

认真思考这一点。这些是现在必须嵌入到我们工程实践和软件开发生命周期中的系统、思维、文化或理念。这些思维将决定我是否相信你的公司是盈利的并能生存下去。这就是所处的境地。那些掌握这些知识、能够驾驭这种趋势的人,将会获得晋升机会。我希望你们都能获得这样的机会。

问答环节

参与者1:我在确认你是否有MBA,因为很多内容都涉及经济学。你认为在多大程度上需要让员工接受这些基本单位成本概念的教育?

Erik Peterson:教育,这又是一个完全不同的讨论话题。知识的成本正在迅速接近零,但智慧的成本将趋于无限。我女儿将在秋季进入大学,我不知道这对她意味着什么,也不知道对我们所有人意味着什么。这是一个奇怪的境地。如果我能回到过去,我一定会学习经济学而不是计算机科学。这我可以确定。我认为经济学是所有问题的核心。我认为将我们高度技术化的思维应用到这个问题上的路径,是理解我们所做的事情的成本,并专注于结果。这条路径最终会带你走上正确的道路。你应该思考这些事情。如果你走上这条道路,你将变得更好并获得晋升机会。这里有个有趣的现象。这是一个奇怪的观察,但却是真实的。

财务人员和技术人员似乎总是难以融合,就像水火不容。实际上,他们只是用不同语言交流的两个不同星球的物种。他们本质上都属于高度技术化、高度自律、充满极客精神、注重细节的群体。他们之间的共同点远比你想象的要多。只要让首席财务官打开Excel,展示他们做过的一些精彩事情,你就会发现,他们对系统的理解程度令人惊叹。这种感觉,就如同有人让你打开IDE,快速敲出几行代码时的感受一样。你可能从未意识到,你们其实有很多共同之处。如果你发现自己正在经历这样的对话,那么你已经找到了建立沟通桥梁的机会。对于工程团队来说,与财务部门建立这种联系可能比与其他任何业务部门都更容易。

参与者2:人工智能似乎是我们目前在技术领域看到的首个由自上而下推动采用的技术。它并非由工程师说:“这项技术很酷,让我们都转向它。”而是由各种高管层人士推动的。目前大多数公司都处于这样的阶段:要求工程团队必须成为原生AI。第二阶段则是计算成本、解释原因并证明其必要性,这一步对大多数公司来说可能即将到来,但尚未实现。我的问题是,从你的角度来看,你看到了什么?在高管决策方面,你观察到哪些趋势?人们又是如何看待这些趋势的?

Erik Peterson:人工智能的采用确实呈现出自上而下的趋势,但同时也伴随着基层的自发推动。我想说的是,我们自己其实已经为这种局面埋下伏笔。很多技术人员,包括我自己,都曾有过这样的经历:走进会议室,听到业务部门的讨论,然后说“Kubernetes能解决我们的问题”。但会议室里的人却说:“没人知道Kubernetes是什么。”他们甚至会说:“你还是继续用那个放在柜子里的东西吧,为什么突然提到这个?”我曾与一些人合作,他们直接把桌上那份完整的提案推到我面前,问:“我们为什么不能节省一些成本?为什么不能以正确的方式做事?”我走进会议室,说:“如果我们构建一个超级容器化的Kubernetes数据管道,这将极大地提高我们的效率。”然后我开始深入探讨“提高效率”这个部分。

“这意味着什么?”我其实并不清楚如何具体解释。于是我们一起去弄清楚。它到底能做什么?每笔交易成本是25美分,如果改成10美分,这会带来什么变化?直接走进会议室,就说出这个数字。世界上没有一个财务人员会对你这样说:“我们目前的业务每笔交易成本是25美分。如果我们做出这个改变(我不会向你解释,因为你也理解不了),成本将降至10美分。”他们反而会问:“你为什么还站在我面前?快去把它建出来!”这就是机会——如果你能用业务部门能理解的语言进行沟通,他们就会立刻让你去构建。他们其实根本不在乎Kubernetes。从趋势来看,CEO们仍在发表一些与业务其他部分严重脱节的言论。

首席信息官(CIO)和首席财务官(CFO)似乎正在经历一个关键时刻。首席技术官(CTO)则在想:我是不是要被解雇了?我之前做对了吗?有些CIO注意到:等等,大家又开始重新在内部构建东西了。虽然我们只是家小公司,员工人数约180人,但我们已经向全体员工推出了Claude Code和co-work。几周后,我的人力资源总监向我索要一个GitHub账号。什么?我完全不知道。Claude告诉我,我需要GitHub账号才能完成这件事。我问她:你知道GitHub是什么吗?她说:我不知道GitHub是什么,但系统提示我需要这个账号,并说应该向IT人员咨询,而你就是公司的技术负责人。我的观察是:在那一刻,公司每个人都变成了开发者,虽然只是非常初级的开发者。CEO则表示:这太棒了,每个人都在做事情。CTO的思维则在想:好吧,我觉得我们正在变得更好。但随后一切都失控了。

查看带有文字稿的更多演讲

录制时间:

2026年10月12日

由

  • Erik Peterson

#### 相关赞助商

  • 《实用智能体编码实践手册》

#### 相关赞助商

大规模自动化代码转换。修复漏洞、迁移框架、现代化所有仓库中的遗留代码。免费试用Moderne。

#### 本内容属于AI、机器学习与数据工程主题

##### 相关主题:

  • 架构与设计
  • DevOps
  • AI、机器学习与数据工程
  • 生成式AI
  • QCon AI波士顿2026
  • QCon软件开发大会
  • 文字稿
  • FinOps
  • 人工智能
  • 效率提升
  • 云计算
  • 架构
  • 成本优化
  • 云计算
  • InfoQ
  • 相关编辑内容
  • InfoQ热门内容

OpenTelemetry使Kubernetes属性处理器随着可观测性模式成熟而稳定 GitHub将Copilot运行时迁移到Rust并使用AI辅助重写 调查发现AI生成代码增加了调试和故障率并造成理解鸿沟 最小可行管理者:建立信任、反馈和对齐 Cloudflare Traces将代理层转换为OpenTelemetry跨度,推出基于体积的定价 Java新闻速递:JobRunr 9、OpenXava 8、Quarkus、LangChain4j、JNoSQL、介绍Lathe