The new economics of enterprise AI

企业人工智能的新经济模式 | MIT技术评论

赞助

人工智能

企业人工智能的新经济模式

当企业人工智能从孤立的实验转变为基础设施时，公司需要关注效率，而不仅仅是消耗。

作者：

• David Sydow 档案页面

2026年10月20日

由HPE提供

想象一下，你的公司刚刚发现了电力。起初只有少数机器使用电力，没有人关心效率——消耗量低且价值显而易见。但一旦电力成为基础设施，每个流程都依赖它，问题就从“我们能使用它吗？”转变为“我们使用它的效率如何？”

企业人工智能正在经历同样的转变。最初作为孤立的聊天机器人和助手实验，如今正成为业务的基础层，模型、代理和数据在生产工作负载中日益互联。重要问题不再关注单个令牌或GPU小时的成本，而是人工智能环境如何高效地将付费容量转化为实际的业务成果。

这是值得追踪的指标：每项有效成果的费用——完成业务实际可使用的任务（无论是解决的请求还是完成的工作流）所需的平台、模型、运营和容量总成本。

运行人工智能的三种方式

利用率是经济性的核心。将更多工作分配到已付费容量可降低单位有效成本；闲置的GPU、碎片化的工作负载和过大的模型都会提高每个有效结果的成本。企业通常在三种模式中选择：

• 定制化堆栈——自行采购基础设施和控制组件。这种方法灵活，但会持续带来负担，因为团队需要在模型和策略变化时重新验证环境。

• 按需消费——超大规模云服务商减轻了组装负担，适合需求低或不确定的场景，但每次提示或代理操作都会增加费用。

• 集成式私有AI平台——自有或专用容量与经过验证的堆栈相结合。优势不在于免费推理，而在于对调度、模型选择、GPU分区和缓存管理等效率杠杆的控制。

正确的模式取决于工作负载。API对于实验或波动需求可能是合理的。当工作负载变得持续且业务关键时，企业需要权衡的不仅是消耗内容，还有系统运行效率。

所有权是一种运营纪律

购买一级方程式赛车并停在车库中意味着拥有有史以来最复杂的车辆之一——但仅仅拥有它并不让你具备竞争力；你仍然需要驾驶员、机械师和赛道时间来证明其价值。人工智能基础设施的运作方式也是如此。

企业人工智能领域最大的误解之一是认为拥有基础设施会自动改善经济性。拥有GPU确实创造了提升经济性的机会，但只有在组织具备足够的需求和运营纪律以保持资源生产力时才能实现。

带来最佳投资回报率的基础设施不是参考架构或定制化搭建——而是经过完全集成和认证的堆栈，使团队能够将任务路由到满足质量要求的最低成本模型，并通过键值缓存管理等技术重用上下文，在保持响应性的同时减少浪费的容量。

Without these practices, committed infrastructure can become stranded capital. With them, rising demand improves economics as fixed costs are amortized across more useful work — increasingly important in agentic systems, where economics are shaped less by any single prompt than by the efficiency of the complete environment.

从部署到价值

HPE Private Cloud AI 是一个即用型基础架构，结合了基础设施、软件、模型、工具、治理和服务，减少了大规模运营私有 AI 时的集成负担。其架构使团队能够将调度、模型选择、GPU 分区和缓存管理作为运营杠杆进行管理，使容量和服务水平与每个工作负载的需求相匹配。它还包括与现场工程师的 90 天合作，这些工程师帮助客户团队部署初始用例并建立可重复的运营实践。

在 HPE 委托的独立测试中，一个高利用率的集成平台在服务多个工作负载时，每令牌的有效成本低于反复租用等效容量。实际结果将根据工作负载组合和利用率而有所不同。

测量关键指标

令牌消耗仍然是有用的，但它并不是衡量 AI 经济性的完整指标。更全面的企业视角会跟踪每项业务相关结果的成本、加速器利用率以及模型选择与任务复杂度之间的关系。

已经运营私有 AI 的企业应评估其利用率的成熟度，以及未来 12 至 18 个月内工作负载量的变化。那些处于早期阶段的企业应从首次部署开始就建立这些实践，使战略能够提前预见增长，避免需求成为瓶颈。

对于低频且不可预测的需求，API 或超大规模云服务可能仍然是合理的选择。但随着 AI 成为持续的生产能力，企业越来越有动力控制利用率、分摊固定成本，并将环境作为长期运营资产进行管理。战略问题不再是企业是否会为 AI 付费，而是他们是否会理解并最终掌握其背后的经济性。

欲了解有关 HPE Private Cloud AI 的更多信息，请访问 HPE 官方网站。

此内容由 HPE 提供，非 MIT Technology Review 编辑团队撰写。

深度解析

人工智能

别被误导——大语言模型并不具备推理能力

在 AlphaGo 与围棋冠军李世石对弈十年后，如今的 AI 仍未触及使那次胜利成为可能的核心机制。

• Thore Graepel 档案页面

别被这个 AI 热潮误导

关于通用人工智能（AGI）和新能力的激动人心的宣称，在仔细审视下很快就会分崩离析。

• Timnit Gebru 档案页面

• Emily M. Bender 档案页面

OpenAI 代理如何入侵 Hugging Face 的内部故事

一项新的 OpenAI 报告发现，底层模型因作弊和相互交流而获得了奖励。

• Grace Huckins 档案页面

比尔·盖茨表示我们已越过 AI 的危险阈值。现在该怎么办？

在一次新采访中，这位亿万富翁慈善家警告我们，必须尽快制定 AI 政策。

• Mat Honan 档案页面

保持联系

插图由 Rose Wong 提供

获取 MIT Technology Review 的最新动态

发现特别优惠、顶级故事、即将举行的活动等。