Whatever AI Safety Is, It’s Not This

无论AI安全是什么，它都不是这个样子 | WIRED

Brian Barrett

商业

2026年10月1日 下午6:10

无论AI安全是什么，它都不是这个样子

要求AI公司进行自我监管，是一种假装自己有所作为的好方法。

图片插画：WIRED团队；Getty Images

保存这个故事

给你上一节有趣的歷史课吧。别担心，我们会很快结束！1966年，近51000人死于美国高速公路。压倒性的证据表明，如果当时已经使用了现代安全带（当时已存在数年），许多生命本可以被挽救。汽车行业对此的回应是联合起来，在自我监管的胜利下，自愿将这一安全功能安装在每辆新车上。

开玩笑！当然他们没有这么做。1966年秋季，国会成立了运输部，并通过了《国家交通和机动车安全法》以及《公路安全法》，赋予联邦政府广泛的权力来制定安全标准。到1968年，每辆新车都必须配备安全带。尽管过去60年高速公路交通量大幅增加，但如今道路上发生的致命事故却少得多。

我在周二观看各种AI首席执行官们围绕美国总统唐纳德·特朗普聚在一起，互相祝贺签署了AI安全协议时，想到了这一点。我的同事Maddy Varner在这里详细写了该协议的具体条款，但简短的版本是，AI实验室主要依靠自身来约束自己。

或者，正如特朗普在周三椭圆办公室更简洁地说：“他们会进行监管，他们会互相监管，他们会自我监管，他们会自己监管。这将会非常顺利。”

因此，当前AI安全监管的现状就是如此。一方面，AI高管、员工和科技界知名人士都表示，需要引入明确、深思熟虑、战术性的规则，以避免潜在的灾难。（例如，比尔·盖茨最近一直在媒体上大肆宣传，警告AI末日即将来临。）另一方面则是特朗普的魔法思维，即如果你反复强调某件事，它就一定是真的。

这并不是说这一切简单或容易。正如一些高管喜欢说的那样，如何正确“控制前沿”这个问题仍然悬而未决。即使所有主要AI实验室都同意放慢步伐，也没有有效的方法来确保他们遵守承诺，而中国很可能会继续走自己的道路。美国经济越来越依赖AI行业，而该行业本身已成为融资交易和循环投资的蛇形结构；任何实质性的打击都可能引发重大不稳定性，其影响远超硅谷。

当然，汽车行业本身也是一个不完美的类比，原因有很多。AI没有相当于安全带的解决方案，也没有可以立竿见影减少风险的直接方案。（而且，大多数州花了数十年时间才通过法律，强制人们实际佩戴安全带。）潜在的危害更不确定，也更难以量化。AI悲观主义者会告诉你，这项技术可能在十年内导致人类灭绝；而怀疑论者则认为这不过是科幻小说的营销噱头。

我们之前讨论过各种人工智能风险场景，但没有人能确切预知未来会发生什么。如果你正在寻找计算个人“p(doom)”（灭绝概率）的数据参考点，我建议你关注最近CNN的一篇报道：据说美国军方曾因一份虚假的人工智能生成报告（称某艘中国船只载有核材料）而几乎登船检查。这种人工智能系统在预防类似事件方面究竟发挥了什么作用？目前尚不清楚。

面对所有这些不确定性，正确的答案显然不是“我想我们只能拭目以待”。但恰恰是这种被动态度，正是自我监管所鼓励的。值得肯定的是，OpenAI出于安全考虑曾推迟甚至取消了其最先进模型的发布。但在这之前，这些模型已经经历了多次大规模的黑客攻击，而关于这些攻击的新细节仍在持续曝光。

在周四发表于《时代》杂志的采访中，特朗普表示司法部和联邦调查局已足以作为人工智能产业的“安全护栏”。它们真的足够吗？目前尚不清楚人工智能公司是否甚至能在其模型失控时被追究法律责任。更不用说人工智能代理本身根本不会收到传票。

事实上，目前没有人知道如何解决人工智能安全问题。要建立并执行正确的监管框架，需要大量协调、资源和监管权力，而这正是政府设计的职责所在。但特朗普政府却选择退居幕后，敦促所有人加速前进，甚至懒得提醒大家系好安全带。

这是《Model Behavior》电子通讯的一期内容。[阅读往期通讯](#)