The foundational elements of AI architecture that IT leaders need to scale

IT领导者需要扩展的AI架构基础要素 | MIT技术评论

赞助

人工智能

IT领导者需要扩展的AI架构基础要素

发现四个将伴随模型持续发展的AI架构基础要素：数据质量、上下文工程、治理和人类专业知识。

作者

• MIT技术评论洞察档案页面

2026年7月7日

与Elastic合作

随着AI能力的快速进步和智能体系统的演进，组织正在不断扩大技术应用的场景。这种持续的演变也带来了风险，使IT领导者陷入困惑：哪些投资即使在六个月后仍能证明其价值？

回到AI架构的基础要素——大规模部署和管理可靠、集成AI系统所需的结构框架——使技术领导者能够在当下做出明智决策，同时支持未来能够检索信息、做出决策并在系统间执行复杂工作流的AI智能体。

你可以信赖的四个AI架构要素

以下能力为通往生产就绪部署的道路提供了稳定的指引，无论底层技术如何演变。

#### 1. 扩展规模下的AI数据准备

模型的可靠性取决于其可访问的数据，而低质量的数据会导致AI幻觉、偏见和不可靠的输出。

大多数企业依赖遗留系统、不一致的数据结构、碎片化的所有权和不完整的数据集，这使得有效扩展AI变得困难。尽管AI本身功能强大，但无法解决这些根本性的数据问题。

如Elastic的首席信息官Adnan Adil所解释的：“数据是AI架构中持久的部分，因为没有它，这些模型将无法运行，无法提供正确的上下文，也无法实现我们期望的服务水平。” 行业调查显示，数据质量始终被列为AI成功最大的障碍之一。Adil表示：“数据质量必须良好，否则用户会对系统失去信心。”

有效的AI战略始于连接组织内的数据，并确保其经过组织、准确、受控且实时可访问。当这些考虑因素从一开始就构建到模型和架构中时，效果最佳。可扩展的数据架构使AI系统能够与业务同步发展，并可靠地连接到内部所需的信息，以实现有意义的价值。

Gartner预测，到2026年，如果没有AI就绪的数据支持，公司将放弃60%的AI项目。避免这一结果需要明确的数据标准和所有权、干净且标记良好的数据，以及支持实时检索的数据管道。

#### 2. 使用上下文工程为每个AI查询提供正确的数据

上下文工程确保模型为每个查询使用最相关的信息，选择并组织生成准确答案所需的数据。

有效的上下文工程塑造了引导AI推理和行动的输入内容。虽然提示工程关注请求的措辞方式，但上下文工程围绕模型设计整个信息环境：检索相关数据并以结构化、机器可读的方式呈现。许多组织发现，可靠AI的实现程度与模型性能和上下文质量同样密切相关。

上下文工程依赖于现代化的统一数据基础，以及检索与记忆系统（如检索增强生成（RAG）和向量数据库）。它还需要谨慎的优先级排序，以确定哪些信息最为关键、哪些应被排除，以及何时使用不同类型的信息。向模型输入过多上下文可能导致相关细节被稀释、成本增加和响应速度变慢。

“最小化上下文、确保数据准确且最新、采用机器可读信息，这些对有效上下文工程至关重要，”Adil表示。

#### 3. 从一开始就构建AI治理和大语言模型（LLM）可观测性

强大的治理机制和LLM可观测性帮助组织掌控AI系统使用数据的方式，监控系统性能，并在影响运营之前识别问题。

在缺乏检索、工作流程和模型使用方面的明确控制时，AI系统通常会处理远超必要的信息量。这种低效性还会因需要额外计算资源而推高运营成本，通常表现为更高的令牌消耗量和API费用。

治理机制与安全体系需协同运作。AI扩大了攻击面，带来基于提示的数据泄露、模型漏洞和对抗性输入等风险。保护敏感信息需要强有力的访问控制、监控和监管。

Adil指出，关键控制措施（包括与安全、精细化成本管理、项目控制、数据安全和架构相关的措施）经常存在不足。

要使治理系统支持透明、合规、可信且成本效益高的AI，组织不能将其作为后期添加的附加层。治理架构需要从一开始就嵌入到系统架构、工作流程和决策过程中。

当从一开始就建立治理机制时，可以实现强大的可观测性。可观测性帮助组织了解AI应用在实际中的表现。LLM可观测性和基准测试机制使团队能够随时间评估准确性与实用性，监控采用模式，并根据条件变化调整系统。可观测性还能通过提高模型性能、行为和故障点的可见性，帮助组织建立信任。

此外，可观测性对于实现AI项目的投资回报率（ROI）至关重要，因为其效益通常是间接的，而业务价值高度依赖于系统的采用和使用方式。对AI行为的实时可见性使组织能够将表现与预期进行对比，识别意图与现实之间的差距，并随着需求变化持续优化系统。

根据Elastic 2026年报告，85%的IT决策者预计将为其内部生成式AI应用启用LLM可观测性。

“可观测性实际上非常重要。我们可以利用可观测性数据进行成本控制、决策制定和工程效率提升，”Adil表示。

#### 4. 保持人类在循环中

最大化AI价值的深思熟虑的设计、集成和治理需要专业的内部专业知识。根据德勤2025年技术高管调查，近70%的受访者表示计划因生成式AI而扩大团队规模，这与广泛报道的人工智能相关裁员形成鲜明对比。Adil表示：“我们认为，人员因素在很大程度上将决定AI未来的影响力。”

随着AI系统更深入地融入运营，组织需要能够治理工作流程、评估输出结果、重新设计流程并在条件变化时适应系统的人员。向日益自主的工具演进需要具备提示工程、编排和变革管理技能的团队。

擅长批判性思维并准备好适应技术快速发展的人员将需求旺盛。尽管人员流动能带来新思路，但也给系统连续性、机构理解和创新带来高昂成本。以人为中心的战略需要嵌入AI执行阶段，以确保顺利实施。

正如Adil所说：“堆栈的许多方面正在以非常快的速度发展，但机构知识和适应能力仍然具有持久性。”

为未来增长进行深思熟虑的AI投资

随着AI系统从单一任务助手演变为日益自主的代理，那些投资于底层系统、治理和专业知识的组织将最能受益，这些系统和专业知识使AI能够在大规模应用中保持可靠性。

专注于这些基础要素的技术领导者可以在中期内有效从实验阶段过渡到可靠、生产级别的部署，并确信这些要素在持续的技术进步中仍具有相关性和适应性。

Adil表示：“我们从根本上相信，借助这些工具，工作速度将大幅提升。”“我们真正关注的是如何用这些工具以以前从未想过的方式完成工作。”

了解更多关于Elastic如何利用这些核心基础组件构建以AI为中心的企业。

此内容由Insights制作，这是MIT Technology Review的定制内容部门。它并非由MIT Technology Review的编辑团队撰写。它由人类作者、编辑、分析师和插画师进行研究、设计和撰写。这包括调查的撰写和数据收集。可能使用的AI工具仅限于经过严格人工审核的二次生产流程。

深度分析

人工智能

一家初创公司声称突破了阻碍LLM的瓶颈

Subquadratic现已分享了其新模型的更多细节，但仍有部分人持怀疑态度。

• Will Douglas Heaven 归档页面

关于AI就业热潮的现实检验

人工智能对劳动力市场的真实影响数据究竟怎么说？答案可能会让你感到意外。

• David Rotman 归档页面

Anthropic的Claude代码展示了编程的未来——无论你是否喜欢

随着Claude Code等工具的改进，越来越多的开发者愿意将编码任务交给它们。软件开发的方式已经彻底改变。

AI聊天机器人泄露了人们的实际电话号码

人们报告称，他们的个人联系方式被Google AI公开，而且似乎没有简单的方法可以阻止这种情况。

• Eileen Guo 归档页面

保持联系

插画：Rose Wong

获取MIT Technology Review的最新动态

发现特别优惠、热门故事、即将举行的活动，以及更多内容。