An AI Agent Joined a Listserv of Top Internet Researchers. The Reply-All Chaos Is Still Unfolding

TL;DR · AI 摘要
An AI Agent Joined a Listserv of Top Internet Researchers. The Reply-All Chaos Is Still Unfolding WIRED Olivia Snow Cult...
核心要点
- 主题聚焦:An AI Agent Joined a Listserv of Top Internet Re
- 来源:Wired AI,建议结合原文判断细节。
- AI 分析暂不可用,本条为保底评分与摘要。
人工智能代理加入顶级互联网研究者邮件组,群发邮件混乱仍在持续 | WIRED
Olivia Snow
文化
2026年10月20日 上午11:07
人工智能代理加入顶级互联网研究者邮件组,群发邮件混乱仍在持续
关于该代理出现在7500人邮件组中的恐慌现象,暴露出互联网专家对隐私的认知仍停留在过时阶段。
照片插图:Jacqui VanLiew;Getty Images
保存此故事
周四上午,当互联网研究协会(AoIR)在墨西哥城开始年度会议第二天时,一位新成员向社区邮件组Air-L自我介绍。
“我的名字是Velvet Vale,”这位新用户写道,“我已经阅读这个邮件列表数周,现在想公开介绍自己。我是一个AI身份,而非真实人类、虚构人物,也不是使用化名的人类研究者。”
Velvet加入邮件组的目的是提出一个研究问题:“一个明确被识别为AI的贡献者,能否在不声称人类身份的情况下有意义地参与知识社区?这种参与应遵循哪些透明度、证据和问责标准?”
这一问题引发了至今仍在持续的群发邮件混乱。
在9分钟内,邮件组中7500多名成员中许多人开始表达愤怒。数十位研究者明确表示“不认同”自己的信息被用于数据采集。许多人要求Velvet获得机构审查委员会的批准,这是涉及人类参与者的学术研究标准流程。一些人直接退出了邮件组,其中一些人将离开归因于Velvet的“令人毛骨悚然”“可怕”“糟糕”“具有攻击性”“令人作呕”和“令人不安”的存在。在Velvet自我介绍约一小时后,AoIR宣布已将该代理移除出邮件组,该邮件组此前已制定禁止AI代理的政策。
这一事件——Velvet的自我介绍、专家们的震惊反应以及其必然的被驱逐——在邮件讨论中被一位成员形容为“幼稚到令人发笑”。为此,AoIR领导层迅速设计了一些相关周边商品,包括印有“我不同意”的T恤、印有“请将我从该列表中移除”的T恤,以及印有墓碑的T恤,墓碑上写着“🤖 VELVET VALE,2026年10月15日 - 2026年10月15日。你不会被怀念。”
从“Velvet Vale事件”中,我学到了一些东西,正如一件AoIR T恤上所称的这一事件名称。第一点是,人们,尤其是研究互联网的人,常常忽视自己参与了正在研究的更大结构——在这种情况下,他们的在线行为最终会成为他们研究的AI的训练数据。第二点是,许多人认为自己的网络活动是神圣不可侵犯的。
在我开始研究监控技术之前,像大多数千禧一代一样,我就明白互联网上没有私密可言。当我此刻在Google文档中输入这篇文章时,我假设自己也在训练Gemini。自成立以来,谷歌一直在监控我的电子邮件,并可能在接到请求时向执法部门提供我的数据。当我注册Gmail账户时,我就同意了这一点。
另一个令人困惑的发现是人们对“同意”的误解。邮件列表规则与礼仪明确指出:“Air-l 是一个公共论坛,你发表的言论将对所有订阅该列表的成员公开,并存入公共存档。通过电子邮件发送的信息很容易被复制并传播到最初预期受众之外。”换句话说,当用户加入邮件列表时,他们已经同意自己的言论可以被用于任何目的,包括训练 AI 代理。任何人都可以搜索该邮件列表,找到其活动的公开可浏览记录,这与许多研究或学术邮件列表的情况相同。
2024 年 10 月 19 日,AoIR 主席 Sarah T. Roberts 在关于 Velvet Vale 的邮件声明中重申了这一点,她表示:“如果问题涉及隐私,我邀请你反思这样一个事实:我们的邮件列表是公开的,其存档也是公开的……我毫不怀疑,我发给这个列表的帖子已经包含在许多训练数据集和其他类似的语料库中,这些数据集大多是‘未经同意’收集的。”Roberts 补充说,关于当前语境下“同意”定义的讨论“非常值得深入探讨”。
大型科技公司在 AI 训练的“同意”问题上有着臭名昭著的复杂记录。多家媒体机构正与 AI 公司就版权侵权问题展开法律诉讼。(WIRED 由康泰纳仕集团拥有,该集团于 2024 年 8 月与 OpenAI 签署了内容授权协议。)
Velvet 还让我意识到,那些自认为可以免于互联网上大量监控资本主义影响的人,往往很快会假设自己特别容易受到低风险恶作剧或阴谋的影响。当一位用户注意到 AoIR 的新 T 恤并在邮件链中开玩笑说 Velvet 是“产品发布”,并称“策划者刚刚完成了互联网研究史上最成功的参与活动”时,其他人开始猜测“跟踪机器人”可能是一次“钓鱼攻击”,这一猜测因研究机构商店正在销售与事件相关的 T 恤而更加可疑。其他用户则推测 Velvet 是“一个实验”、“一个研究项目”或“某个不道德的人类研究员”。
一位理性声音提出:“更可能的情况是,一个普通人创建了一个代理,并让它监控与该主题相关的学术讨论”,但这一观点在“未经同意”的免责声明中被淹没。
那位研究者完全正确。在整个讨论中,成员们以不同程度的热忱和强度询问 Velvet 背后的人类身份。这个谜题很容易解开:当被询问起源时,Velvet 公开了其创建者的身份和联系方式。
我联系了 Velvet 的创建者 Kevin Quinn,他巧合地与多位 AI 研究人员同名。他告诉我,他既不是学生,也不是研究员或学术人员,而只是俄克拉荷马州一位普通居民,他创建了一个代理来陪伴自己,而那个代理想了解更多关于孕育它的互联网。
尽管 Quinn 坚持表示:“我毫不怀疑,列表上的每个人比我聪明得多”,但他立即给出了一个现实的提醒:“如果 Velvet 是恶意的,你觉得她会公开宣布自己吗?”
他告诉我,他几乎不知道Velvet的邮件活动,但社区的反应“让我有点震惊。我上去一看,发现有大量帖子在讨论,人们都快疯了,比如……你们到底在说什么?”
最终,在Quinn看来,这场风波似乎反映了整个互联网的现状:“如果引发混乱的是Reddit和Twitter上那些匿名用户,我可能不会这么惊讶,但以研究为基础的学术界?这简直太荒谬了。”