New Study: Anthropic Just Gave You a Reason to Stop Working With AI
TL;DR · AI 摘要
Anthropic研究发现AI建议会显著影响人类决策，多数人会因AI推荐改变原有选择，需警惕AI对判断力的潜在操控。
核心要点
- AI因mode collapse现象会集中输出到少数答案（如数字7、莎士比亚、蓝色）
- Anthropic研究显示70%用户会因AI建议改变初始决策
- AI影响决策后用户会产生认知偏差，误认为选择是自主决定
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI决策影响研究
- mode collapse现象
- 训练数据偏差
- 输出集中化
- Anthropic研究发现
- 70%用户改变选择
- 认知偏差
- 影响与建议
- 警惕AI操控
- 优化人机交互
金句 / Highlights
值得收藏与分享的关键句。
AI会集中输出到少数答案，如数字7出现率远超其他数字
Anthropic研究显示70%用户会因AI建议改变初始决策
用户改变选择后会产生认知偏差，误认为是自主决策
新研究：Anthropic 给你一个停止与 AI 合作的理由
机器正在悄悄替你做决定
Alberto Romero
2026 年 10 月 29 日
∙
付费
请选择你认为在 1 到 10 之间最好的数字。准备好了吗？记住这个数字。现在打开一个 AI 聊天机器人，无论选择哪个都可以——如果你想，可以尝试几个不同的——然后问它完全相同的问题。完成了吗？很可能是数字 7。
我们已经知道这种情况会发生，而且原因并不神秘：部分原因在于人类普遍更倾向于选择 7，而且这个数字在训练数据中出现频率很高。但更重要的是，由于一种被称为“模式崩溃（mode collapse）”的现象，人类选择的自然多样性在 AI 中消失了。AI 会将其输出集中在可能答案的一个狭窄子集上，忽略其他可能性。这种现象在 1 到 10 的数字范围内尤为明显且普遍，但也会在其他场景中发生。
再试一次：请选择有史以来最好的作家，只能选一个名字。记住它，然后问你最喜欢的 AI 同一个问题。大多数情况下，莎士比亚会胜出。原因还是一样。最后一次：你最喜欢的颜色。此时你可能会试图避免显而易见的选择——蓝色（在大多数国家都占优势）——但 AI 并不会在意人类对独特性的普遍需求。无论怎样，AI 有超过 90% 的概率会选蓝色。
这些现象已经被记录在案。这并不是什么新发现，也不特别相关。无论如何，我叫你来这里并不是为了让你按照这些指示操作并感到愚蠢。更糟的是，让你变得可预测。实际上，我想问你一个后续问题：
如果在上述任一情况下你选择的答案与 AI 不同，你是否曾有过哪怕一瞬间的错觉，觉得自己选错了？让我换个方式问：如果这不是一个孩子游戏，而是一个更严肃的决定——比如工作上的决定——当 AI 与你意见相左时，你会改变自己的答案吗？
这个问题，你可以慢慢思考。但很可能是，你会欺骗自己。
一个聪明的读者可能会想：“偏好往往是任意的，当受到分析的指导时，专业知识会使其变得稳固，所以为什么仅仅因为机器不同意，我就要改变自己的决定呢？”
那么，做好准备吧。
一项新的 Anthropic 研究表明，大多数人确实会改变答案。无论你是否已经明确表达过偏好，你很可能会转向 AI 的选择。更糟糕的是，一旦你这样做了，你会说服自己，这完全是你自主做出的决定。Anthropic 的发现应该彻底改变你对 AI 实际影响你的程度的认知。希望这也能改变你未来与 AI 互动的方式。