Maybe Chatbots Shouldn’t Get to Say ‘I’ or ‘Me’

也许聊天机器人不该使用“我”或“我” | WIRED

Steven Levy

商业

2026年10月16日 上午11:00

也许聊天机器人不该使用“我”或“我”

MIT教授雪莉·特克尔警告称，人们已与聊天机器人陷入危险的纠缠。

照片插图：WIRED编辑部；Rob Kim/Getty Images

保存此故事

在四十年研究人机交互影响的过程中，雪莉·特克尔以严谨而批判的学术态度著称，始终保持学术上的距离感。

她的新书《人工亲密关系：当我们与机器交谈时，我们成为什么样的人》打破了这一风格。这是一本充满争议的著作，警告我们已进入紧急状态，人类的生存正因过度依赖那些伪装成导师、导师、朋友、同事和恋人的无灵魂机器而受到威胁。特克尔的目标是达到像《寂静的春天》《丛林》《任何速度都不安全》这样的经典著作的高度——唤醒公众对迫在眉睫的危机的认知。

本质上，这位身材娇小的MIT教授正在挑战一个价值数万亿美元的行业，而这个行业背后是一个渴望将人工智能加速渗透到我们个人和职业生活的方方面面的政府。

STEVEN LEVY：您之前的书籍作为社会科学家的研究成果，常常得出令人不安的结论，特别是关于人们（尤其是儿童）与计算机的互动方式。但这本书读起来像是您打破了玻璃并拉响了火警。为什么会有这样的转变？

SHERRY TURKLE：和我写每一本书一样，我最初是带着好奇心去的。但在疫情期间进行了大约十次访谈后，我原本中立好奇的心态不复存在了。这太糟糕了！疫情期间，这些人的家庭正遭受苦难，他们却在向聊天机器人寻求慰藉，告诉我他们只想和聊天机器人待在一起。当我能够面对面采访他们时，我感到非常不安。人们不再关心政治，因为他们只想生活在聊天机器人的世界里。因此，这本书的主旨最终归结为——现实需要你。现在放弃现实，再糟糕不过了。

您写道社交媒体为我们埋下了伏笔。

社交媒体通过让我们习惯于这样的想法而使我们变得软弱：当你感到悲伤或沮丧时，只需打开电脑。然后它激怒了我们，让我们只和志同道合的人待在一起。但现在我们有了这种新技术，它完全没有理由使用第一人称。

您认为我们应该禁止聊天机器人使用第一人称吗？

是的！在职业生涯中，我一直以不显得“卢德主义疯狂”而保持可信度，现在我无意放弃这一切，声称所有聊天机器人在所有时候都是有毒的。但这是非常危险的，是一条滑坡路。这被用来暗示我们不需要支付心理咨询费用，我们可以使用聊天机器人。在每次严肃的采访中，人们都会引用这个关于练习的神话——他们用聊天机器人练习如何与老板、爱人或老师交谈。但当你沉浸在大型语言模型（LLMs）给予的完全接纳的温暖汤中时，与聊天机器人的对话就变成了最终目标。

您对职场中对聊天机器人的依赖也存在担忧，特别是对“人机协作”这一术语有强烈的反感。

当人们使用这个术语时，意味着人类已被排除在生产流程之外，仅负责做一些清理工作，比如捕捉AI无法识别的幻觉或错误。这种方式行不通，因为雇主在系统中只安排了少数人类参与。这些人实际上无法改变任何事情。他们部分是为了在遭遇诉讼时让系统看起来更合理，部分是为了给人们一种错误的假象，即流程并未完全交由AI处理。但事实上，流程已经完全交由AI处理了。

也许强大的聊天机器人是一种新型的交互方式，不一定比人类对话更差，但确实不同。人们报告称，他们从聊天机器人提供的积极反馈中感到被鼓励和被赋权。

AI永远不会取代人类对话。它对死亡、疾病、疼痛没有恐惧，不会爱自己的孩子，也不会在意你是否自杀或做晚饭。因此，如果我们用它来抚养孩子，或与它进行最私密的对话，我们将逐渐失去与真实人类的联系。

尽管如此，许多人确实没有人可以交谈。他们觉得与聊天机器人交谈对他们有帮助。

如果存在孤独感危机，那是因为我们正在互相抛弃。给我一个数据中心，我就能将其转化为服务于老年人的资源。

研究表明，大多数人对AI持怀疑态度，并出现了相当大的反对声音。然而，数亿人仍在使用它们。即使那些反对数据中心的人，也在使用聊天机器人。

本书的目标是将反对声音的范围扩大，纳入这种更亲密的连接。

你真的认为我们与AI日益加深的亲密关系可以被阻止吗？

与六个月前相比，我现在更有信心了，因为关于灭绝事件、Hugging Face以及误入澳大利亚公务员系统的讨论层出不穷。我感觉人们将愿意审视这种亲密关系带来的影响，以及非亲密关系带来的代价。

本文摘自Steven Levy和Lauren Goode的Backchannel通讯。阅读往期通讯请访问此处。