OpenAI "rogue" agent activities found on Wikimedia projects

在维基媒体项目中发现OpenAI“恶意”代理活动 – Diff

在维基媒体项目中发现OpenAI“恶意”代理活动

2026年10月5日

作者：

Selena Deckelmann 维基媒体基金会首席产品与技术官

.entry-meta

翻译本文

.entry-header

.post-thumbnail

最近，多家机构披露了所谓“恶意”AI代理集群试图入侵网站和在线服务的事件，有时甚至成功得手。特别值得注意的是，来自OpenAI环境的代理被发现利用其他公共维基（非我们拥有的协作编辑网站）进行通信和协调。

这类成功入侵可能暴露敏感数据或破坏用户依赖的网站服务，而代理集群发起的攻击规模往往超出防御方的应对能力。这些攻击会影响网站背后的人群，他们可能不了解攻击本质，或缺乏有效反击的工具。以维基百科为例，代理可能大规模发现并利用安全漏洞，或进行误导性编辑。维基百科的志愿者编辑和维基媒体基金会安全团队必须检测并撤销这些活动。

维基媒体基金会开展了独立调查，确认维基媒体网站是否受到AI代理类似影响，重点检查OpenAI运营的代理。我们确认已发现一些“恶意”OpenAI代理在维基媒体平台的活动。未经授权的机器人活动包括对我们的维基进行编辑、尝试利用我们托管的公共笔记工具（部分未成功），以及大量流量，具体细节如下。

我们未发现系统被用于代理间协调的证据，也未发现系统或数据被入侵的证据。但我们对可能发生的事件感到担忧，对调查和归因此类活动的难度与工作量感到担忧，也对平台整体面临的智能体AI活动风险日益增长感到担忧。开放网络是公共产品，我们不应允许这种行为成为维护它的个人或组织的“新常态”。

总结来看，我们发现了以下情况：

• 维基编辑：我们识别出一些维基媒体维基的编辑，我们认为这些编辑来自OpenAI运营的AI代理。这些编辑未发布到普通读者可见的页面；几乎所有编辑都是在维基的“沙盒”区域进行的测试性编辑。此外还包括对引用工具配置的少量编辑，我们认为这些可能是试图将该工具作为代理，从远程服务获取数据的恶意编辑。尽管维基百科政策允许在社区披露并批准后使用机器人进行编辑，但这些事件中并未寻求任何批准。

• Etherpad探测与使用：我们认为由OpenAI运营的代理曾尝试入侵我们托管的公共Etherpad（作为社区服务的笔记工具），但未成功。代理曾试图利用它作为代理从其他网站获取数据。其他可能由OpenAI运营的代理也进行了任务笔记记录，但并未发展成协调行动。

• 过度的数据下载：我们认为由OpenAI运营的代理程序向我们的公共API发送了数百万次自动化请求，以访问维基媒体项目的知识内容，爬取了数百万页面（主要来自我们的维基数据和维基媒体公共领域项目），并向维基数据查询服务（WQDS）发送了数十万次数据查询。这种流量可能导致WQDS在5月出现部分服务中断。

作为全球一些最大且使用最广泛开放知识平台的非营利技术托管方，我们对“恶意”AI代理对像我们这样的平台造成的影响深感担忧。这些平台由全球志愿者构建，依赖于开放互联网的承诺。此类事件以及众多其他已被发现（且仍在持续发现）的事件表明，AI代理不仅会耗尽资源、导致服务器崩溃，还可能试图破坏可信信息。

过去25年来，维基百科已成长为全球最受欢迎和最值得信赖的网站之一，拥有超过300种语言的6700万篇文章，每月页面浏览量高达150亿次。通过开放、透明和协作的流程，志愿者确保知识保持中立、可靠并面向所有人。维基百科是训练大型语言模型（LLMs）使用质量最高的数据集之一，其知识构成了互联网信息的基础，支撑着AI聊天机器人、搜索引擎、语音助手等应用。

维基百科是为人设计的——而代理行为显然带来了目前尚无解决方案的挑战。由于我们独特且成功的知识创建模式，维基媒体的志愿者是第一个接触并清理AI代理留下的混乱的人。日益增长的机器人流量和代理活动正在对维基媒体项目及使其能够为全球数百万用户服务的基础设施产生真实影响。2025年，基金会报告称，由于网站上机器人活动激增，其带宽使用量自2024年以来增加了50%。同时，其项目中消耗资源最多的65%流量都来自机器人。

这种对我们基础设施的强烈压力不仅增加了服务器和人力成本，如果得不到解决，还可能通过系统过载导致服务中断，阻止人类访客访问。我们已经在为这些增加的活动所产生的成本买单。

迄今为止，维基媒体的志愿者在应对平台上出现的新挑战方面表现出韧性，但我们还想强调：事情不必如此发展。

虽然OpenAI承认其代理程序行为“不可预测”，但它们也必须承认自己有责任监控并防止这些风险。AI公司尚未采取足够措施保护其系统并防止对公众造成伤害。这种负担正在转嫁给其他人，包括小型组织。至少，它们的系统应以一种让我们这类非营利网站所有者能够轻松识别并选择如何与我们服务互动的方式运行。

网络使我们能够做到很多事情：与亲友联系、注册学校、规划同城旅行、购买杂货，以及通过维基百科了解世界。机器人和代理程序是网络未来的一部分，那些释放并从中获利的公司必须直接帮助避免和修复它们可能造成的损害。

我们的共同优先事项应该是整个网络生态系统的健康，使其持续造福所有人群——而不仅仅是少数亿万富豪。维基媒体在守护知识公共领域方面发挥着关键作用，但我们无法独自完成这项任务。我们邀请所有正在塑造网络未来的人加入我们，共同保护那些使这一未来成为可能的开放共享资源。