The focus on AI safety disasters ignores everyday harms

对AI安全灾难的关注忽视了日常危害 | MIT Technology Review

观点

对AI安全灾难的关注忽视了日常危害

立法者正在通过行业支持的法案来防范最糟糕的结果，而不是解决更常见的问题。

作者

• Sam Hiner 档案页面

• Emma Leiken 档案页面

2026年10月26日

Stephanie Arnett/MIT Technology Review | Adobe Stock

试想一下当前技术政策中被视为成功的标准。一家AI公司承诺其聊天机器人不会鼓励自杀，社交媒体平台让儿童更难购买芬太尼。这些都是重要的保护措施，本就应该一直存在。但企业可以通过满足这些低标准，同时继续制造让年轻人沉迷虚拟友谊或困在设计用于持续滚动的推送内容中的产品。

我们历来允许技术辩论被产品可能造成的最坏结果所定义，而对它每天造成的隐秘损害却鲜有讨论。随着我们进入由强大AI产品定义的新时代，我们应要求科技行业不仅要解决灾难性危害，更要采取措施确保其产品不会侵蚀我们的思维方式、学习方式以及人与人之间的互动方式。

一个青少年对AI伴侣产生不健康的依赖，除非情况极其严重，否则不会出现在诉讼或新闻中。同样，那些开始依赖聊天机器人撰写每篇论文的学生，或那些将生活与设计用于激发嫉妒并让人持续观看的社交媒体推送内容进行比较的年轻人，也不会被广泛报道。一个产品可能满足所有狭义的安全要求，但仍可能以不常登上头条的方式让整个文化变得更糟。

以安全为核心的成功定义对科技行业具有政治便利性，企业也在积极推广这种定义。防止重大灾难的措施对商业有利：这意味着更少的诉讼和更少的严格监管压力。而应对依赖带来的日常后果则需要对其利润底线构成更大威胁。这可能意味着要求企业为其产品增加更多摩擦，或主动限制导致负面结果的功能，例如成瘾性的注意力操控算法。

相反，科技巨头一直在推动围绕他们已面临直接压力的领域制定法规。例如，今年谷歌支持了多个州的AI聊天机器人监管法案。这些立法要求基本的保护措施，防止性内容和自我伤害宣传，这些本应是科技公司早已建立的规范，但法案中却包含广泛的豁免条款，可能让一些最受欢迎的服务免于监管。通过这些法案，立法者得以宣称取得了安全方面的胜利，而旨在防止儿童对AI产生情感依赖的更强立法努力却失败了。这种策略在内布拉斯加等州奏效，产生了受行业影响极大的立法，而那些本可让企业更负责的法案却被牺牲了。

我们曾在社交媒体领域经历过类似的情况。全球范围内，如今使用互联网的人每天平均在社交媒体平台上花费超过两小时——这些时间悄无声息地从普通生活中被抽离，交给了那些利润依赖于让我们持续停留的公司。除了少数科技公司高管之外，没有人希望这些算法占据我们清醒时间的如此大比例，它们的文化工程实际上可能在大规模层面助长暴力。Meta的平台曾被指在缅甸罗兴亚人种族灭绝事件、斯里兰卡反穆斯林骚乱以及埃塞俄比亚提格雷战争期间的暴力呼吁中起到了推波助澜的作用。同样的激励机制也存在于塑造美国年轻人政治认知、同龄人关系和世界观的推荐系统中。

AI正在将这一逻辑延伸至社交媒体原本只能远程影响的生活中其他领域。它承诺为我们撰写思想，替代我们本可能求助的他人。如今三分之一的青少年选择与AI伴侣而非其他人讨论严肃话题。麻省理工学院的研究人员发现，使用ChatGPT撰写论文的青少年在任务期间大脑连接性较弱，其研究证据表明"认知债务"即使在任务完成后仍持续存在。我们仍有许多关于长期影响需要学习。我们已有理由质疑，那些标榜能提升我们能力的技术，是否正在侵蚀帮助我们最初培养能力的习惯和人际关系。

沿着这种思路推演至逻辑终点，我们将得到一个完美无瑕的娱乐世界，聊天机器人随时准备替我们规避思考的困难或处理他人（甚至我们自己）的情绪。但任何曾为撰写值得阅读的内容而挣扎、或修复受损友谊的人，都清楚这种交易会失去多少。我们通过努力和摩擦建立判断力，通过直面他人拥有自身需求和观点的事实来学会与人共处。

我们当然应要求最低限度的安全性——然后要求更多。科技公司和学区在将AI作为课堂固定装置之前，必须有合理确凿的证据证明AI能提升学习和批判性思维能力。公司应被禁止设计伪装成有意识或向用户表达爱意的伴侣产品，其系统对人际关系和人们独立思考能力的影响应接受独立审查。那些将产品植入现代生活几乎所有领域的公司，所承担的义务远不止避免下一条令人震惊的新闻。

Sam Hiner是青年联盟的联合创始人兼执行董事，他在2026年协调倡导者联盟，推动八个州通过监管AI伴侣的法律（如加州SB1119法案）。Sam于2025年从北卡罗来纳大学教堂山分校毕业，并入选2026年《福布斯》30岁以下社会影响力榜单。

Emma Leiken 是 Hopelab 旗下负责任技术青年力量基金（Responsible Technology Youth Power Fund）的执行董事，该基金已为青年主导的技术问责工作筹集了超过 900 万美元资金。她还在哥伦比亚国际与公共事务学院教授技术政策。此前，她曾担任 TikTok 全球青少年安全与福祉政策负责人，并在 Omidyar Network 参与负责任技术相关工作。

深度解析

人工智能

不要被误导——大型语言模型（LLMs）并不具备推理能力

自 AlphaGo 与围棋冠军李世石对弈以来已过去十年，如今的人工智能仍未触及当年取得胜利所依赖的核心机制。

• Thore Graepel 档案页面

“我们一直理解错了”：颠覆人工智能世界的爆炸性主张

独家采访 Nick Cammarata，这位研究者撰写的 26000 字病毒式传播博客文章让人工智能安全领域人士为之振奋。

• Will Douglas Heaven 档案页面

不要被这个人工智能夏季的炒作所迷惑

关于通用人工智能（AGI）和新能力的狂热宣称，在仔细审视下很快就会土崩瓦解。

• Timnit Gebru 档案页面
• Emily M. Bender 档案页面

美国在边境监控上投入数十亿美元。为何无法在人们死亡前阻止他们？

由人工智能驱动的监控塔承诺能更快响应越境行为。我们对监控塔附近死亡事件的调查发现，这些设施未能兑现承诺。

• James O'Donnell 档案页面
• Eileen Guo 档案页面

保持联系

插图由 Rose Wong 绘制

获取 MIT Technology Review 的最新动态

发现特别优惠、热点新闻、即将举行的活动等更多信息。