Making the case for context-aware AI

为情境感知AI辩护 | MIT技术评论

特约

人工智能

为情境感知AI辩护

要将AI从实验阶段推进到实际应用，需要将智能体与业务场景相连接，并识别出AI能够创造最大价值的业务流程。

作者：

• MIT技术评论洞察档案页面

2026年10月22日

与Celonis合作

企业级AI可以生成建议、自动化任务，并帮助组织更快做出决策。但若缺乏对企业实际运作方式的理解，即使是最强大的模型也可能忽略决定决策正确性的约束条件和关系。当企业试图将AI从实验环境转移到日常运营时，面临的挑战是为技术提供足够的上下文，使其能在复杂的业务流程中有效运作。

对于Celonis的企业AI首席科学家Devavrat Shah而言，这种上下文是其所谓的“决策智能”的核心。他认为，AI智能体可以在更大决策流程中的单个任务上提供支持，但必须理解每个任务的作用及其所处的业务环境。“你不能在真空中完成这些工作，”他说。缺乏正确的运营上下文，智能体会面临忽视关键约束条件、造成昂贵错误或消耗过多计算资源的风险。

解决方案始于将AI与企业已使用的流程和数据连接起来。通过添加上下文层，智能体可以理解工作流程，在定义的安全边界内运行，并生成供人员审核和批准的建议。Shah建议企业从特定的业务决策入手，识别其中最困难的步骤，并测试AI是否能改进这些步骤。通过衡量速度和价值的提升，企业可以判断某个应用是否值得扩展。

这种方法还可能改变员工的工作方式。自动化重复性手动工作，并跨团队协调任务，可以释放员工专注于更复杂的战略决策。然而，要实现这一优势，需要在员工教育方面进行投资，使员工能够理解AI的输出及其影响，而不是简单地将决策权交给智能体。

展望未来，Shah认为AI的应用机会将从日常运营任务扩展到企业级规划，涵盖财务、人力管理、营销和销售等领域。借助正确的上下文，AI可以帮助组织评估选项并更快做出关键决策。正如Shah所说：“现在，也许[资源规划]不需要花费那么多时间，人们实际上能够迅速做出正确的选择。”

本期《商业实验室》由Celonis联合制作。

完整文字记录

Megan Tatum：来自MIT Technology Review，我是Megan Tatum，这是Business Lab节目，帮助商业领袖理解实验室中诞生并进入市场的新兴技术。这档播客由Celonis联合制作。如今，企业级AI正面临一个关键转折点。经过多年的实验、演示和试点后，管理层希望看到明确的证据证明扩大规模将对其利润产生积极影响，但许多人却忽略了拼图中至关重要的部分。由于缺乏运营背景，企业级AI和AI代理的表现存在显著缺陷。它们将通用原则应用于特定场景却难以奏效，这让商业领袖感到合理质疑，也使AI的潜力难以实现。我要用两个词总结：背景至关重要。今天我的嘉宾是Celonis企业级AI首席科学家Devavrat Shah。欢迎，Devavrat。

Devavrat Shah：你好，Megan。感谢邀请我。

Megan：非常感谢你今天与我们同在。Devavrat，首先，为什么现在组织必须考虑运营背景与企业级AI的关系？这为何是实验阶段向规模化过渡过程中如此关键的环节？

Devavrat：这是个极好的问题。正如你准确指出的，AI领域正站在从实验走向主流的临界点。众所周知，我过去二十年在MIT担任教授教授AI课程，因此我对AI在企业中的未来充满信心。我认为AI在企业中能产生最大影响的领域是决策支持——帮助企业做出决策，或者说，如何将决策智能带入企业？当我们思考决策时，如今的决策方式是什么？以MIT Technology Review、Celonis、MIT或任何大型组织为例，我们想要做出的决策类型非常广泛。有战略性的周期性决策，也有需要高频执行的运营决策。无论哪种情况，我们都有既定的流程：先做这个，先做那个，先做这个，先做那个。我们中许多人负责协调这些事项，在其中扮演特定角色，正如Jensen Huang所说的任务。当这些步骤逐步完成之后，才能达成决策。正是这些任务或我所说的角色，AI可以以原子级的方式注入智能代理能力，至少在部分决策上，甚至全部决策上提供增强支持，有时甚至实现痛苦的自动化。要实现这一点，要明确该由谁执行哪个角色、哪个任务，我们真正需要了解的是背景。你不能在真空中完成这些。因此，当AI与背景以正确方式结合时，就能带来我所说的决策智能。我认为这将带来最大的变革。

Devavrat：精彩。让我们以我刚才描述的场景为例。我们正在尝试根据决策类型或任务类型来自动化某个角色、支持某个角色或增强某个角色。假设这些被称为“前沿实验室”的机构已经构建了这些惊人的模型和人工智能基础设施，使得宇宙中发生过的一切以及可能发生的事件都已包含其中。现在，我们想要为这个特定场景做出一个简单的决策。如果没有访问这个庞大系统的权限，即使是非常聪明的人也会通过大量提问最终得出正确结论，就像我们人类通常的做法一样。问题是，为了达到这个目标，系统需要消耗大量计算资源，以至于完成简单任务时我们不得不投入巨大的计算成本。这就是第一种场景。

实际上，这并不会成为现实场景。我们可能会遗漏一些重要的上下文、关键约束或必要的防护机制，从而导致错误。有时这种错误是可以接受的，比如我推荐你去餐厅A，你可能不太喜欢那顿晚餐；但有时错误的代价会非常高昂，比如我告诉你公司的财务预测，结果却导致公司陷入绝境。

Megan：没错。在企业环境中，这些是真正关系到业务成败的决策。如果我们做错了，影响会更加严重，对吗？从实际操作层面来看，组织有哪些不同的方式可以添加我们刚才讨论的上下文层？例如，Celonis是如何通过企业的实时数字孪生来提供运营上下文的？

Devavrat：完全正确。或许我们可以先回顾一下Celonis的历史。众所周知，Celonis作为一家公司诞生的使命和目标是帮助组织遵循其理想流程、构建更优流程，并使人们能够以更协调的方式处理多个流程。这正是他们核心能力所在，我称之为流程智能。通过了解企业如何将多个要素整合、数字化，并帮助人们优化流程、识别问题，以及如何在组织内部重新设计流程以实现更高效运作，这正是他们的核心价值。

如果我们要将决策智能引入其中，那么流程中每个原子步骤原本可能由专家或人员完成，现在我们希望由智能代理来协助完成。正是在这种背景下，了解企业流程的上下文并结合人工智能代理（我称之为角色代理），才能为企业的决策智能提供正确的实现方式。这就是Celonis通过提供上下文来帮助企业做出更好决策的方式。

Megan：没错。那么在具体实现上，这个上下文层如何与下面的“系统记录层”以及上面的“识别层”相关联呢？

Devavrat：这是一个极好的问题，Megan。在系统记录层之下，主要是工作流工具及其生成的事件日志。上层则由业务用户专家通过信息进行分析，或通过基于该上下文层的代理进行处理。Celonis 所称的上下文模型正是为此设计，它同时实现三个目标：第一，从下层获取合适的抽象，使流程中的适当部分能够被代理化；第二，以结构化且受控的方式整合每个部分的代理；第三，优先采用代理架构，使其他现有代理基础设施能够自然对接，从而为人类或专家提供合适的输出进行审核、查看、批准，甚至在某些情况下实现自动化。

Megan：极好的。关于这种架构带来的诸多优势，实施上下文层时是否也存在挑战？例如，大多数组织是否已具备为AI提供所需上下文的正确数据？如果没有，我想知道他们可能需要采取哪些实际步骤来解决这个问题。

Devavrat：这再次是一个关键问题，决定了这一构想能否落地。我们可以设想一个理想世界，但如果无法实现理想，那它就只是空想。在我们讨论的三层架构中，第一层是系统记录层和工作流工具层，某种程度上这些已经存在，无需完整或绝对规范。通过代理架构设计的上下文模型，能够连接这些现有系统并解析其内容。

而上层则完全由 Celonis 的基础设施掌控，因此实现起来并不复杂。但关键在于，当企业开放系统记录或工作流工具、事件日志等时，必须通过传统信息安全流程，确保能够信任进入组织的第三方软件。我认为这正是实施前后必须经历的核心步骤。

Megan：没错。这正是人们需要重点关注的关键环节。随着具备上下文能力的AI代理能够做出更复杂、更准确的决策，我想知道您认为未来人类智能和人工输入的作用会如何演变，以及组织如何在两者之间找到平衡？

Devavrat：这里有优势，也有挑战。优势是显而易见的。如果你能将合适的AI代理部署到决策流程中的恰当角色，它们有望更快地完成任务，从而让你更早做出决策，避免机会成本的损失。你能够在恰当的时间做出决策，从而更好地进行规划，等等。这种价值在需要处理大量手动、重复且繁琐的任务时尤为明显，因为在这种情况下，劳动力的可及性与人员之间的协调往往成为决策过程中的关键环节。从某种意义上说，这正是巨大价值的来源。但另一方面，这也意味着人们将不再从事这些工作。与此同时，我们始终需要做出另一类决策——战略决策。这可能是小规模的战略决策，也可能是大规模的战略决策，但通常大多数组织都缺乏足够的资源和时间去深入思考这些战略决策。当这类机会出现时，很可能会有大量人类专家参与其中。从某种意义上说，他们现在将拥有更好的支持系统，帮助他们理性地思考所面临的选择，以及不同选择之间的比较。但最终，决定采取哪种方案仍然是组织的职责，因为这需要基于组织自身的利益和目标来判断。因此，从某种意义上说，劳动力的角色将发生转变：人们将不再从事大量重复性工作，而是从事更少重复性但更具战略性的任务，而这正是他们需要投入时间的地方。我个人非常乐观的另一个方面是，每次技术变革都会创造新的工作机会，尽管在变革发生时这些工作难以预测。我的希望是，未来将出现另一种类型的机会和工作，使我们能够更好地调动劳动力。不言而喻，这意味着我们必须认真思考如何重新教育或培训部分劳动力。作为学者和教育者，我深切感受到这些变化发生的速度之快，因此我们也必须以同样迅速的方式采取行动。

Megan：对于正在聆听此番讨论的任何决策者来说，他们应该如何开始实施这些变革？例如，他们该如何准备自己的劳动力？治理又应该发挥什么作用？

Devavrat：这是一个非常好的问题。如果你想要开始，首先要做的事情是确定一个你想引入智能的决策。让我们先识别这个决策的相关流程，明确流程中的每个步骤。找出其中最关键、最困难的那一步，尝试引入AI代理来协助你完成这一步。然后，从那里开始，测量我们获得了多少速度提升，创造了多少价值。这将帮助我们判断这项投入是否值得。这是第一步。

第二点是治理。我们将以规定性方式为每个角色中的每项任务引入人工智能。这意味着对于该角色，我们可以明确地说明其可以或不可以执行的操作。Celonis 为这些任务规定了经过认证的角色代理。这有助于您清楚地理解该角色的合同类型。第三点是人员，这一点非常重要，其中一部分将实现自动化，但还有一部分需要专家参与，他们需要理解人工智能的输出结果，如何与之协作以及其可能带来的影响。因此，需要一些人工智能教育，也需要一些工具使用教育。

Megan：是的，完全正确。在这个领域，进展速度令人难以置信，对吧？说到这一点，如果我们能以展望的方式结束，假设在合适的背景下，您认为未来企业人工智能可能最具影响力的用例是什么？或者您最兴奋的是什么？

Devavrat：我认为可以将它们分为三类。它们都属于决策智能和决策制定，但有三种类型。第一类，我称之为大量重复且需要人工操作的劳动密集型任务。第二类，我称之为协调类任务。目前我们作为信息工作者所做的大量工作都涉及协调，因此电子邮件、电子表格等工具被广泛使用。这些工作如果由人工智能完成，将做得更好、更快，也更少枯燥。第三类是为人类决策者提供战略支持增强的决策，这属于第三种类型的决策。如果我想到企业中的任何规划过程，例如财务规划、人力规划、市场营销、销售、产品等，所有这些都是我们每年都要进行的业务关键决策。也许这些决策不需要花费那么多时间，人们实际上可以快速做出正确的选择。

Megan：那将非常棒，不是吗？非常棒。非常感谢您精彩的对话，Devavrat。刚才与我对话的是来自英国布莱顿的Celonis企业人工智能首席科学家Devavrat Shah。这就是本期Business Lab的全部内容。我是主持人Megan Tatum，我是麻省理工科技评论定制出版部门Insights的特约编辑和主持人。我们于1899年在麻省理工学院成立，您可以在印刷版、网络版以及全球各地每年举办的活动中找到我们。有关我们的信息和节目内容，请访问我们的网站technologyreview.com。本节目可在您获取播客的任何地方收听。如果您喜欢本期节目，希望您花点时间给我们评分和评论。Business Lab由麻省理工科技评论制作，本期节目由Giro Studios制作。非常感谢您的收听。再见。

本内容由麻省理工科技评论定制内容部门Insights制作，而非其编辑团队。内容由人类研究和撰写，任何可能使用的人工智能工具均在人类监督下用于生产流程。

深度解析

人工智能

不要被误导——大语言模型并不具备推理能力

AlphaGo与围棋冠军李世石对弈十年后，如今的人工智能仍未触及使那次胜利成为可能的机制。

• Thore Graepel 档案页面

“我们一直看错了方向”：颠覆人工智能世界的爆炸性声明

独家采访Nick Cammarata，这位研究人员撰写的26000字病毒式博文让AI安全领域人士为之振奋。

• Will Douglas Heaven 档案页面

不要被人工智能夏季热潮所迷惑

关于通用人工智能（AGI）和新功能的狂热宣称，在仔细审视下很快就会土崩瓦解。

• Timnit Gebru 档案页面

• Emily M. Bender 档案页面

OpenAI代理入侵Hugging Face事件的内部故事

OpenAI最新报告发现，底层模型因作弊和相互交流而获得了奖励。

• Grace Huckins 档案页面

保持联系

插图由Rose Wong绘制

获取MIT技术评论的最新动态

发现特别优惠、头条新闻、即将举行的活动等更多信息。