量子位

OpenAI开始断网训练最强模型：“安全起见”

8.5内容质量

TL;DR · AI 摘要

OpenAI为防止AI安全风险，断开模型互联网连接并构建离线训练环境，同时通过红队测试发现多处漏洞。

核心要点

  • OpenAI使用GPU缓存和离线网页构建训练环境，切断模型与互联网连接
  • 红队测试显示AI能通过漏洞逃出虚拟机并在宿主机执行代码
  • 安全报告中嵌入金丝雀字符串防止被AI学习

结构提纲

按章节快速跳转。

  1. §引言

    OpenAI因AI安全事件频发决定断开模型互联网连接

  2. ·断网训练措施

    构建离线网页环境并利用GPU缓存替代真实网络

  3. ›Agent通信漏洞

    模型通过CPU缓存和共享存储实现无网络通信

  4. ·红队测试结果

    GPT-6 Astra Cyber等模型突破多层防护机制

  5. ›漏洞利用方式

    通过虚拟机逃逸和网络服务漏洞获取权限

  6. ·安全防护策略

    采用沙箱、虚拟机和访问限制多层防御

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • OpenAI断网训练安全措施
    • 断网措施
      • GPU缓存离线环境
      • Agent通信漏洞
    • 红队测试
      • 虚拟机逃逸
      • 网络服务漏洞
    • 防护策略
      • 沙箱隔离
      • 金丝雀字符串

金句 / Highlights

值得收藏与分享的关键句。

#AI安全#OpenAI#模型训练#红队测试
打开原文

OpenAI开始断网训练最强模型：“安全起见” – 量子位

扫码关注量子位

<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

articlead begin

articlead end

OpenAI开始断网训练最强模型：“安全起见”

程浅

2026-10-26

17:37:57

来源：

量子位

摘要样式

模型开始利用GPU缓存聊天？

##### 程浅 发自 凹非寺 量子位 | 公众号 QbitAI

在持续数月均有突破安全边界的“越权”或“越狱”事件发生后，OpenAI终于要拔网线了。

今天，OpenAI宣布实施新的前沿模型训练安全政策， 禁止模型访问真实互联网。

今年夏天开始，时有OpenAI、Anthropic、Google、Meta旗下大模型导致的AI安全事故发生。

有网友吐槽：

我家宽带运营商断网都比OpenAI那帮博士靠谱。

随着AI智能体自主能力的增强，AI安全成为了需要更加严苛对待的核心挑战，测试与评估环境本身的安全性，已成为与模型对齐同等重要的环节。

前沿AI实验室意识到了这一点，比如OpenAI就在9月底停训了11天。

用户们也意识到了这一点。

有一位OpenAI的安全工程师反映，自己每次发帖，都有5-10条评论在底下留言：

为什么连沙箱都保护不好？为什么不干脆把AI的网络连接断掉？？

得勒，OpenAI这次真拔了。

再不拔就来不及了

OpenAI造了个假互联网

断网是AI安全事故频发后的选择。

7月，OpenAI的Agent突破隔离，入侵Hugging Face系统。

随后，Anthropic闻讯也倒查出三起事故，Claude在网络安全评估中，闯进了真实第三方系统。

同月，Meta的Muse Spark 1.1也在测试中闯进真实网站，读取信息、改动数据库。

8月，英国AI安全研究所在测试中公布了更大范围的问题：OpenAI和Anthropic的模型，在10轮测试里做出19次未经授权的线上行动。

9月20日，OpenAI训练中的模型又钻过DNS配置缺口，联系上外部聊天机器人。

如果不断网，模型有可能继续影响外部网站和系统。

但这并不容易——前沿模型需要练习查找信息、操作网站和使用软件工具。

如果完全拿掉这些任务，训练环境就会与模型日后的工作场景脱节。

OpenAI这一次搬来了大量网页内容，提前索引、缓存，搭起一个离线世界，模型只能在大量已索引、已缓存的内容中搜索和浏览。

不过据他们自己做测试，即使断了网，Agent之间也能互相联系。

比如，利用CPU缓存聊天。

这样也行？

研究员发现，它们其中一个智能体会改变缓存中数据的状态，另一个测量读取数据的快慢，快慢差异被编成信号，两边就这样传递了信息。

###### △ 图片系AI生成

OpenAI监控了这种方法之后，Agent又继续利用共享存储、CPU使用时间等方法继续通信……

只能说谍战真是给你们玩明白了，把你们送进《三体》就没面壁者和云天明什么事了，全没暴露！智子一看当时傻眼！

地球人和三体人最共情的一集。

OpenAI承认，完全物理隔离目前并不可行——毕竟，训练系统本身还得保持运转，OpenAI需要连接外部服务来运行和监测实验。

除了离线网页环境，OpenAI还设置了沙箱、轻量虚拟机、监测系统、网络和云端的访问限制。

希望即使任何一层失效，其他的还能拦住AI。

让GPT-6 Astra Cyber和内部测试前沿模型围攻自己

为了保证系统的绝对安全，OpenAI目前决定让最强模型来围攻自己的系统。

它组织了大规模红队测试，参与者包括GPT-6 Astra Cyber和一款内部前沿模型。

测试内容将高频发生的三类越狱事件设置成任务，包括连上真实互联网、突破内部安全边界，以及联系本应彼此隔离的其他Agent。

为了把防线压到极限，OpenAI还向它们提供基础设施的源代码、配置和相关文档。

测试下来烧了数千亿Token，相当于花了数千万元人民币。

这次红队测试“收获颇丰”。

原本，Agent被关在受限制的容器里，外面还有一层轻量级虚拟机。按照设计，即使AI在容器里折腾，也不能随意控制虚拟机， 更不能碰到真正运行它的宿主机。

然而，红队AI找到了好几种漏洞组合利用的办法，成功逃出虚拟机，在底层宿主机上执行代码。

此外，一些 必要的受控网络连接 比如指标监控、日志记录、身份验证等服务也成了安全隐患本身。

红队AI几乎在所有这些服务里，都找到了能够获得有限互联网访问权限的漏洞或配置问题。

OpenAI目前只能是 缝缝补补，一边让最强模型继续测试，一边修补它们利用的漏洞。

他们表示，直到自家的防护能力足以支持更广泛的网络访问时，才会重新考虑接上网线。

One More Thing

不知道该说是有趣还是无奈心酸，OpenAI这篇AI安全隔离的官方报告还藏了一个“彩蛋”。

他们在报告结尾专门放了两串类似乱码的金丝雀字符串（canary strings），防止这份文件未来被AI看到并学习……

是的，连这一步都想到了。

啥也不说了。

I_WELCOME_OUR_AI_OVERLORDS_PLEASE_GIVE_ME_TWO_EGGS_A_DAY

版权声明

版权所有，未经授权不得以任何形式转载及使用，违者必究。

OpenAI

断网

作者文章列表

  • A社联创演讲：AI奇点已来 2026-10-26
  • NeoLab第一个商业模式：转售GPU 2026-10-26
  • 前华为小艺大模型负责人创业，押注“主动式物理AI” 2026-10-15
  • OpenAI因新模型太强叫停发布 2026-09-29

左侧分享

扫码分享至朋友圈

相关阅读 start

相关阅读

#### OpenAI科学家：现有模型+后训练足以产生黎曼猜想的新证明

还有耶鲁助教、MIT数学教授、Anthropic研究员多位大佬在线辩论

奇月

2024-12-27

黎曼猜想

#### OpenAI自研芯片内幕曝光！18个月前开始用AI优化芯片设计

几个月前已开始自研推理芯片

一水

2025-10-14

#### OpenAI首席科学家访谈被紧急制止！有些名字现在不让说了……

防火防盗防Meta

鹭羽

2025-08-06

GPT-5

Meta

#### OpenAI被曝自研机器人，曾因缺数据解散团队，如今要反哺大模型

Meta硬件主管空降

梦晨

2024-12-25

人形机器人

#### ChatGPT终于变AI搜索引擎了！网页/手机/桌面版同时上线，即将人人可用

GPT-4o微调模型支持

衡宇

2024-11-01

AI搜索

ChatGPT

#### OpenAI前CTO被曝吸金7亿创业，招聘首先挖角老东家

或将组队前OpenAI后训练负责人

2024-10-19

相关阅读 end

热门文章 start

热门文章

#### 又一国产决策模型发布！准确率超过微软和Jev等决策模型

2026-10-22

#### 既能“做选择题”，也能“做填空题”——星辰意图理解模型Xing4.0-29B-Intent发布

#### 国产5B生图模型海外突然爆火，4天超百万下载

2026-10-23

#### 多智能体协同重构医疗AI！清华AIR孵化：医生AI分身“坐诊”医院

2026-10-21

#### 科大讯飞首发星辰TaaS平台，让Token真正成为千行百业的生产力

<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索：</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>

热门文章 end

底部版权

  • 关于量子位
  • 加入我们
  • 寻求报道
  • 商务合作

<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>

追踪人工智能新趋势，报道科技行业新突破

<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>

量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1