Assessing & Managing AI Risk for Business and Commercial Deployments: A business owner’s guide to a cost you can measure, price, and manage

评估与管理商业部署中的AI风险：企业主可衡量、定价和管理的成本指南 - MLCommons

评估与管理商业部署中的AI风险：企业主可衡量、定价和管理的成本指南

负责管理AI风险的团队在保护业务和加快采用之间陷入两难。独立测量能够协调这两者之间的矛盾。

2026年10月8日

负责AI风险的团队面临两个优先事项的冲突。他们既要保护企业免受损害，又要支持AI在组织中的扩展应用：速度更快、覆盖范围更广，通常使用相同或更少的资源。AI治理正是通过将风险管理与业务优先事项和公司价值观挂钩，帮助这些团队协调两者之间的矛盾。

风险早已体现在你的账面上。

每个成熟的组织都已经运行着一个风险管理体系：识别暴露点、估算预期损失、根据风险程度实施控制措施，并将剩余风险报告给相关责任人。保险公司会为其定价，审计师会进行测试，董事会会批准相关方案。

企业早已知晓，且许多企业已经经历了安全失败带来的痛苦；AI正在放大这些成本。IBM 2025年数据泄露成本研究显示，全球数据泄露的平均成本为440万美元，而美国的平均成本创历史新高，达到1020万美元。同一项研究发现，AI的采用速度超过了AI监管：63%的受攻击组织没有AI治理政策，或仍在制定中，而拥有大量“影子AI”的组织，其数据泄露平均成本高出约67万美元。

监管制度对不良结果施加了额外的后果。早于生成式AI出现的法规，如GDPR和CCPA，已经对AI做出的自动化决策类型施加了严格控制。欧盟AI法案的严厉处罚——高达3500万欧元或全球营业额的7%——激励企业采取积极的AI风险管理措施。

好消息是：你不需要新的哲学来管理已部署系统中的AI风险。使用你在运营的其他方面所要求的相同证据标准，以及适合此目的的新测量工具。

为何值得：航空业的案例

妥善管理新风险的回报不仅仅是避免损失，而是整个行业的健康发展。1959年，美国商业航空每百万次航班发生约40起致命事故；十年内这一数字降至2起以下，并且在过去半个世纪中，每十年大约减少一半。航空业之所以变得安全，是因为行业建立了管理风险的机制并持续迭代。

测量使飞行安全到足以被信任，安全到足以在大规模范围内进行保险。每年数十亿名乘客，以及背后支持超过3万架商用飞机的贷款人和保险公司，现在都将飞行视为理所当然的事。

自行批改作业的时代正在结束。

管理AI风险需要可信赖的测量。为了建立信任，组织应采用独立且透明的测量实践。制药公司不会自行裁定临床试验结果，上市公司也不会自行审计财务报表。

然而在AI市场中，厂商仍自行评估、运行自己的基准测试并报告结果。在一项AI代码审查中，某厂商自行运行的基准测试显示其缺陷检出率为82%；竞争对手用相同仓库重新测试时仅获得45%；当一个中立实验室构建自己的基准测试时，所有厂商的得分均未超过63%。产品本身并未改变，唯一变化的是评判者。

AILuminate：无人为自己的作业打分 这正是MLCommons的AILuminate®填补的空白。该基准测试体系于2024年12月启动，是一组由多方参与的独立基准测试，通过共识机制评估AI系统避免有害响应的可靠性。该体系由AI公司、学术界和民间社会广泛参与的工作组构建，采用私有测试集和独立评估者进行保护。任何厂商都无法自行命题、无法查看题目，更无法掌控评分权。

治理团队如何实际运用这些数据？主要做三件事：

• 针对每个风险的评分可明确显示模型在类似您业务场景中的风险集中点。这是风险登记簿需要的原始材料。
• 测试结果可指导控制措施。如果系统在对抗性压力下评分骤降，这将明确指示需在系统层级构建防护措施，而非模糊地要求"谨慎行事"。
• 这是多数项目会忽略的关键点：作为买家，应使用与厂商相同的测试，验证实际部署的配置。评分应基于其实际表现，毕竟您将实际使用它。这就像车窗贴的油耗标称值与您日常通勤实际油耗的差异——标称值反映的是出厂车辆，而非您实际驾驶的车辆。

测试前后的评分将被记录在册：量化、可比、可审计。评分不仅是为他人提供的证据，更是您可用于持续改进或追踪回归的反馈。

AI领域的保障链条方向已明确。2025年底，主要保险公司曾向美国监管机构申请，希望将AI相关责任从企业保单中排除。这并非因为AI风险无法管理——实际上并非如此！——而是因为他们缺乏衡量风险的方法，而无法衡量的风险是无法承保的。

测试您实际部署的内容。

基础模型的评分仅反映其从开发者处交付时的状态，却无法说明部署后的运行情况。大多数组织不会直接部署原始模型，而是对其进行改造：通过提示词包装、连接内部数据、赋予工具，有时甚至作为代理运行。正是这种改造使模型变得有用，但也让厂商的防护机制变得脆弱。

保障措施的形态已在一些项目中显现，例如MLCommons金融服务工作组的Agent Reliability Profile项目，该项目今年在CDIR黑客松中获得决赛资格。这是一个针对每个代理的文档，记录可验证的有限声明，证明特定系统在声明的自主等级、操作设计域和控制范围内能可靠运行。这不是关于代理"可信度"的模糊描述，而是审计师或保险公司可核查的具体声明。

将其视为任何其他风险。

AI风险可以被识别、定价、按比例管理并报告，正如组织几十年来对信用风险、货币敞口和工作场所安全所做的那样。这样做并不是阻碍AI采用，而是其前提条件，也是负责任地把握机遇的方式。这种风险敞口已经体现在你的账面上。选择在于是否对其进行衡量。

这就是我们希望通过AILuminate解决的问题，我们期待与您共同踏上这段旅程。如果这个观点与您的团队产生共鸣，请联系我们，讨论AILuminate如何帮助您衡量AI风险。

本文总结了更长的白皮书《如何思考AI风险：业务负责人指南，一种您已经可以衡量、定价和管理的成本》，可在此处获取。

进一步阅读

• 麦肯锡，《人工智能现状（2025）》和《人工智能的 reckoning：董事会如何进化（2026）》
• 毕马威，《2026年度公司董事调查》
• IBM，《数据泄露成本（2025）》
• 民主与技术中心，《正确评估第三方AI（2026）》
• NIST，《人工智能风险管理框架》
• MLCommons，《AILuminate v1.1和Jailbreak基准v1.0 arXiv:2610.02827（2026年6月）》

分类

AI风险与可靠性

AILuminate

新闻

作者

ML Commons

分享

• 邮件分享
• Facebook分享
• LinkedIn分享
• X分享
• 复制链接