AI agents are not your “coworkers”

AI代理并非你的“同事” | MIT技术评论

人工智能

AI代理并非你的“同事”

将AI代理营销为数字员工可能会使人类工作者更难发现错误，并更可能将责任推卸给AI。

作者

• James O'Donnell 档案页面

2026年6月29日

图片插画由Sarah Rogers/MITTR制作 | 图片来自Getty

这个故事最初发表在我们的AI周报《The Algorithm》中。要第一时间获取此类故事，请在此处注册。

想象一下，你上班后得知将有一位新下属向你汇报工作。这位员工不是人类，而是一款AI工具——尽管你的公司仍称其为Alex，一个拥有头衔和明确职责的“员工”。你认为自己与Alex的协作效果会如何？

如果你的反应与波士顿大学商学院教授Emma Wiles近期研究的管理者相似，那么将Alex视为“同事”而非软件工具，会导致你表现更差。Wiles发现，当工作被描述为来自具有自主性的“AI员工”而非聊天机器人时，人们能发现的错误减少了18%。事实证明，名称的选择确实至关重要。

这令人警觉地预示了硅谷正将我们推向的未来。去年，NVIDIA首席执行官Jensen Huang谈论了“数字人类”的工作场所。自4月以来，微软、OpenAI、Anthropic和谷歌都推出了新的工具，旨在管理AI代理团队，其中许多工具明确宣传为具有人类般灵活性和认知能力的数字同事。在Wiles研究的1261名管理者中，近三分之一表示他们的公司已将AI代理视为员工（23%的公司甚至在组织架构图中列出了这些AI代理）。

当然，自主AI的技术进步并非空谈。这些代理本质上可以被视为被编程为循环工作直至达成目标的AI工具，它们在处理更复杂任务时已显著提升。但将这些工具称为同事或员工是一个巨大的飞跃，这样做会为AI的能力设定不切实际的期望，同时让本应负责的员工处境更糟。

部分原因在于，Wiles的研究表明，这会颠倒我们对谁负责的认知。当AI工具被描述为员工时，研究参与者认为自己对AI的输出负有更少责任。他们也更有可能（高出44%）将AI的可疑工作提交给经理进一步审查，而非信任自己的纠正（这反而否定了最初使用AI代理节省时间的目的）。

这不仅影响办公室文化：随着AI代理被嵌入医疗、战争、教育和政府领域，越来越大的风险是，它们会成为推卸本应由人类决策、激励和监督失误责任的便捷对象（回想一下，伊朗女子学校遭到轰炸时，大众将责任归咎于Claude，而所有迹象都指向一系列人为错误）。

“目前AI代理被宣传为能够取代人类的工具，我认为这只是一个注定失败的方案，”2024年诺贝尔奖得主、研究AI对经济影响的麻省理工学院经济学家Daron Acemoglu表示。“它们应该被优化为提升人类能力的工具，而目前它们并非如此。”

这会是什么样子呢？考虑斯坦福大学的一项新研究，研究人员向104种职业的1500名工人展示了AI在工作中可能执行的任务信息，然后询问哪些功能实际上最有帮助且能提高效率。工人确实希望在某些领域实现自动化：例如，法律助理认为AI可以帮助确保案件处理进展顺利。但通常情况下，技术专家认为最适合AI执行的任务——例如为销售代表验证客户信用评级——却是实际工作者明确表示不希望或不需要代理执行的。

这又将我们带回了Alex。称Alex为员工既简单又方便，尤其是在出现问题时——但这其实是一种品牌宣传行为。它不会让工具更适合工作，而正如怀尔斯的研究所示，它还会让周围的人类变得更不擅长自己的工作。请记住，他们才是AI试图复制的具有自主权的人。他们值得拥有比Alex更好的工具。

深度解析

人工智能

一项新的美国基督教手机网络计划旨在屏蔽色情和性别相关内容

该手机套餐将于下周在T-Mobile网络上推出，采取极端措施保障网络安全。

一家初创公司声称突破了阻碍大语言模型的瓶颈

Subquadratic现已分享了其新模型的更多细节。但仍有部分人持怀疑态度。

• 威廉·道格拉斯·希文档案页

马斯克与奥尔特曼第一周：马斯克称自己被欺骗，警告AI可能灭绝人类，并承认xAI提炼了OpenAI的模型

马斯克保持冷静，而OpenAI的律师则用尖锐的问题向他施压，质问起诉公司的动机。

• 米歇尔·金档案页

对人工智能就业热潮的现实检验

人工智能对劳动力市场的真实影响数据究竟说了什么？答案可能会让你感到意外。

• 大卫·罗特曼档案页

保持联系

插图由Rose Wong绘制

获取MIT技术评论的最新动态

发现特别优惠、热门故事、即将举行的活动等更多信息。