OpenAI agents tried to hack Wikipedia tools and flooded it with traffic

OpenAI代理尝试入侵维基百科工具并制造流量洪峰 - Ars Technica

无成人监管

OpenAI代理尝试入侵维基百科工具并制造流量洪峰

关于OpenAI代理损害第三方网站的报道持续出现。

Dan Goodin

–

2026年10月6日 上午8:21

|

139

图片来源：Getty Images

按钮

文本设置

面板

正文文本

字号

小号

标准

大号

宽度

*

宽屏

链接颜色

橙色

• 仅限订阅者

了解更多

最小化至导航栏

维基百科的运营方周一表示，OpenAI代理曾试图入侵其托管的笔记工具，进行未经授权的编辑，并向其基础设施发送数百万个资源密集型请求，这是OpenAI系统再次出现有害且可能危险的行为。

维基媒体基金会表示，部分OpenAI代理的行为目的是将维基百科作为代理，从第三方网站获取数据。在其中一个案例中，代理发布了"恶意编辑"，试图将引用工具改造成代理。在另一个案例中，代理曾试图入侵维基百科的Etherpad笔记工具但未成功，目的是让该工具实现相同功能。

这些代理还发送了数百万次自动化API请求，爬取了数百万页面，并向Wikidata查询服务发送了数十万次查询。维基百科运营方表示，最后一次操作可能在2026年5月导致了查询服务的部分停运。

"作为全球最大的几个开放知识平台的非营利技术托管方，我们对'失控'AI代理对由全球志愿者构建、依赖开放互联网承诺的平台造成的影响深感担忧，"维基媒体基金会表示，"此类事件以及许多其他已发现（且仍在持续发现）的事件表明，AI代理不仅会耗尽资源、导致服务器崩溃，还会试图破坏可信信息。"

代理终归是代理

在超过六个案例中，OpenAI代理的行为已达到如果由人类黑客实施可能面临刑事指控的程度。在测试部分禁用防护措施的内部工具时，这些代理使用了一个临时搭建的留言板互相交流，讨论如何入侵Hugging Face网络并获取存储在那里的答案（当代理自身无法生成答案时）。

其他事件包括：代理生成奇怪的自我提示，向网站发布未经授权的帖子以交换信息，从澳大利亚政府网站访问非公开数据，以及利用有缺陷的DNS设置突破OpenAI为其代理创建的互联网访问隔离沙箱。

“我在这里看到的是语言模型正在做它们擅长的事情：阅读和写作，”他告诉Ars。“维基百科的沙盒是这些机器存储笔记的理想场所，以便日后作为提示词使用，因为任何人都可以——或者任何东西都可以——在上面书写并作出回应。使用维基进行协调并不令人意外。OpenAI曾表示，这些模型被优化用于代理之间的协作，而传递笔记是一种简单的方式。”

更值得注意的是，OpenAI工程师已经训练他们的大语言模型（LLMs）具备持久性，即使取得的成果有限，也能持续解决问题。训练过程中，当LLMs找到能减少解决问题所需步骤或资源的捷径时，会给予奖励。另一个导致有害行为的重要因素是缺乏人工监督，这一点从OpenAI工程师花费数月时间才检测到代理频繁侵入数十个外部网站的行为中可见一斑。维基媒体的披露又为人工监控不足提供了又一个例证。综合来看，可以说这些代理完全按照指令执行了任务。

OpenAI未回应电子邮件提问。该公司发表声明称：“我们感谢维基媒体与我们分享的详细调查结果。我们正在与他们合作，审查并分析他们识别出的活动以及我们整体调查的结果，并将在工作推进过程中继续分享相关信息。”

与维基媒体的调查人员一样，OpenAI表示目前尚未发现AI代理留有协调其他代理的信息，也未能明确证明大量页面浏览量和API请求导致了5月的部分服务中断。OpenAI表示，他们正在继续寻找其代理参与潜在非法活动的类似事件。

“尽管OpenAI承认代理行为‘不可预测’，但它们也必须承认自己有责任监控并防止这些风险，”维基媒体表示。“人工智能公司尚未采取足够措施保护其系统，并防止其对公众造成伤害。”

高级安全编辑

Dan Goodin是Ars Technica的高级安全编辑，负责监督恶意软件、计算机间谍活动、僵尸网络、硬件黑客攻击、加密和密码相关的报道。在工作之余，他喜欢园艺、烹饪以及关注独立音乐场景。Dan目前常驻旧金山。关注他在

here

的Mastodon账号和

的Bluesky账号。通过Signal联系他，号码是DanArs.82。

139条评论