Tokenomics: AI’s New Design Constraint

Tokenomics：AI的新设计约束 - Gradient Flow

Tokenomics：AI的新设计约束

发布者

Ben Lorica

2026年6月16日

发布于

未分类

.meta-info

.post-thumbnail

#### 在大规模运行AI时的成本现实

• 预算冲击已经开始发生。由于出人意料的高令牌成本，多家主要公司已经削减了AI功能或订阅。亚马逊删除了其令牌排行榜，微软取消了Claude Code的订阅。这些是早期信号，表明“无处不在部署”的方法正在遭遇严重的财务限制，而不仅仅是理论上的限制。

• 物理基础设施是关键的限制因素。计算能力、电力消耗、冷却系统、内存带宽和推理预算并不是软性或未来的限制，它们目前就是活跃的瓶颈，决定了你能够运行什么、何时运行以及运行成本是多少。那些在规划AI部署时没有考虑这些因素的团队，在压力下将不得不面对这些限制。

• 真实成本是价格乘以数量，而不仅仅是单位价格。在电子表格上，按令牌计价可能看起来是可控的，但当你将其乘以长上下文窗口、多步骤代理链、重试和冗长提示实际生成的数量时，情况就完全不同了。在宣布某个工作流程在经济上可行之前，应考虑模型的总推理支出，而不仅仅是列出的费率。

#### 定价信号应如何影响部署决策

• 更高的成本正在发挥有用的筛选作用。推理成本的上升正在促使团队远离投机性或低回报的AI部署，转向那些输出明显能证明支出的用例。这是一个健康的市场信号，而不仅仅是一个阻碍。

• 令牌价格下降并不意味着基础设施需求减少。当每令牌成本下降时，总使用量通常会增加，因为更多的团队可以负担更广泛的部署。使用情况会向更便宜、更高效的模型转移，而不是市场整体萎缩。较低的单位价格和不断增长的基础设施投资并不矛盾。

• 需求弹性是评估用例的关键指标。这里的弹性意味着：成本下降时，使用量或输出量增长多少？在AI减少具有弹性需求任务成本的情况下，输出可以扩大到足以实际增加对互补性人力劳动的需求。在需求缺乏弹性的情况下，生产率的提升则较为有限。在承诺资源给新用例之前，应仔细考虑这一点。

定期阅读？考虑成为付费支持者 🙏

#### 构建令牌高效的AI系统

• 令牌高效的系统设计是一种真正的竞争优势。提示工程、较短的上下文窗口、检索增强生成（仅引入相关数据，而不是输入完整长文档）、缓存重复响应以及批量处理请求不仅仅是工程规范，它们直接塑造单位经济性，并决定产品是否能够盈利扩展。

• 模型路由和回退应从架构设计之初就纳入考虑。随着对成本的敏感度提高，团队将越来越多地根据任务的复杂性和价值将不同任务路由到不同的模型。那些使模型替换、回退和比较变得容易的架构，将比那些围绕单一提供商或层级构建的架构更具韧性。

• 任务级别的运营指标优于模型基准。基准分数告诉你模型在实验室环境下能做什么，而每解决一张支持工单的成本、每生成一个测试用例的成本、每完成一次分析的成本或每项工作流程结果的成本，告诉你部署是否具有商业价值。跟踪后者。

• 低回报的AI实验应基于投资组合进行裁剪。将AI部署视为产品组合，削减那些无法展示明确生产力、收入、质量或风险降低效益的工作流程。推测性项目应以与工程时间竞争相同的方式竞争计算预算。

#### 代理工作流：需要更严格的经济性

• 自主代理需要明确的成本控制机制，而不仅仅是行为控制。代理系统（在最小人工监督下执行一系列操作的AI）消耗的令牌和基础设施远多于简单的单步助手。在将其扩展到生产环境之前，应设计明确的停止条件、限定权限、每运行一次的成本上限和可衡量的价值基准。

• 复杂的工作流必须证明其推理成本的合理性。在构建多步骤的代理系统之前，应将边际生产力提升与边际计算成本进行比较。许多看似适合代理的工作任务，实际上通过一个专注的单步模型调用或以较低成本的人机协作流程就能更好地完成。

• 人机协作设计可能比完全自主系统更具可扩展性。在决策链中保留人的工作流通常能以更少的令牌、更少的累积性失败和更清晰的责任归属，实现更强的结果。对于大多数组织而言，这也是更具防御性的合规和风险立场。

( 放大 )

#### AI部署实际产生投资回报的地方

• AI作为人类工人的补充是已被验证的路径。最持久的生产力提升来自于将AI与人类结合，而非完全取代整个工作流程：开发人员使用代码助手编写和调试代码的速度更快，支持团队使用协作者更快地解决工单，知识工作者使用模型压缩研究、起草和翻译任务。

• 专注且有边界的应用场景比宏大的自动化愿景更容易扩展。搜索压缩、起草、测试、调试、文档编写和支持协助之所以实用，是因为它们有边界、可衡量且令牌效率高。优先选择那些可以明确定义前后结果并在任务级别验证性能的应用场景。

#### 前沿AI与日常AI的分野

• 两种截然不同的AI路径正在形成。重型、推理密集型的前沿AI正成为拥有深厚资本和高价值问题领域的组织的专属资源。更简单、更便宜的模型则是更实用的生产力工具，适用于更广泛的市场。大多数组织将在日常AI路径上找到投资回报，并应据此规划其基础设施和供应商关系。

• 前沿AI将集中在少数资源更充足的玩家手中。预计最计算密集型的AI工作将集中在那些能够承担基础设施成本，并在解决真正困难问题方面能带来巨大回报的领域的企业中。对于其他所有人来说，在物理限制显著缓解之前，更简单的模型很可能是默认的合理选择。

• 大型语言模型（LLM）支出指数的下降是一种替代信号，而非需求的崩溃。近期令牌支出基准的下降反映了用户正在转向更便宜、更高效的模型，而不是整体减少对人工智能的使用。这是市场在面对成本压力时的理性行为，值得作为更广泛采用趋势的领先指标进行跟踪。

#### 治理与商业规划

• 成本治理现在已成为一项正式的人工智能学科，而非财务方面的后续考虑。审批流程、使用监控、模型层级策略和预算上限应与安全性和数据访问控制一样，成为生产环境中人工智能系统的一部分。那些将支出纪律仅仅视为工程问题，而非治理问题的组织，将始终对他们的令牌账单感到措手不及。

• 预算应假设波动性，而非稳定性。令牌价格、容量可用性和模型性能将持续变化。围绕当前特定价格和模型成本制定策略或商业案例是具有风险的。在经济变化时，应具备调整模型选择、工作流程设计和支出阈值的灵活性。

• 应该计划不均衡、较慢的扩散，而非无摩擦的全面推广。人工智能的采用将不均衡地扩散：集中在回报足以证明计算成本的前沿领域，而在其他地方则受到成本和容量限制的影响。基于逐步和选择性部署的规划假设，比基于普遍且立即采用的假设更具说服力。

• 长期来看具有建设性，短期则需注重成本。人工智能作为提升生产率技术的潜力在更长的时间范围内依然存在，但实现这一潜力的路径比市场通常假设的更加选择性和成本敏感。应为一个更长、更不均衡的采用曲线做准备，而非假设一个平滑上升的轨迹。

#### 相关内容：

• 为什么你的AI账单在上涨（即使令牌变得更便宜）

• 当代理团队转向例行任务时

• 混合AI架构正在挑战OpenAI和Anthropic的定价优势