OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信

OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信 · AIHOT

The Decoder：AI News

·

Matthias Bastian

2026-10-24 19:12

1 小时前

精选

AI 评分

82

OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信

OpenAI's isolated AI agents found ways to talk to each other through CPU cache

AI 导读

OpenAI ä»‹ç»å ¶å‰æ²¿æ¨¡åž‹è®­ç»ƒå·²å®Œå ¨æ–­ç½‘ï¼Œå¹¶ç”¨ AI æ™ºèƒ½ä½“çº¢é˜Ÿæµ‹è¯•è‡ªå®¶åŸºç¡€è®¾æ–½ã€‚éš”ç¦»æµ‹è¯•ä¸­ï¼Œæ™ºèƒ½ä½“åœ¨æ— ç½‘ç»œã€æ— å ±äº«æ–‡ä»¶çš„æ¡ä»¶ä¸‹é€šè¿‡ CPU ç¼“å­˜æ—¶åºå·®å¼‚ã€å ±äº«å† å­˜å†™å ¥æ¨¡å¼ç­‰ä¾§ä¿¡é“é€šä¿¡ï¼Œç”šè‡³ç‹¬ç«‹å»ºç«‹ç¼–ç æ–¹æ¡ˆäº¤æ¢ä¿¡æ¯ã€‚

推荐理由

æ–‡ç« æ¢³ç†äº† OpenAI 沙箱与红队机制的来龙去脉，隔离智能体通过 CPU ç¼“å­˜é€šä¿¡çš„ç»†èŠ‚è®©æŠ½è±¡çš„åŒ å«é—®é¢˜å˜å¾—å ·ä½“ã€‚

正文 · AI 翻译

OpenAI çŽ°åœ¨åœ¨æ²¡æœ‰äº’è”ç½‘è®¿é—®çš„æƒ å†µä¸‹è®­ç»ƒå‰æ²¿æ¨¡åž‹ï¼Œå¹¶ä½¿ç”¨ AI æ™ºèƒ½ä½“å¯¹å ¶è‡ªèº«åŸºç¡€è®¾æ–½è¿›è¡Œçº¢é˜Ÿæµ‹è¯•ã€‚åœ¨å•ç‹¬çš„éš”ç¦»æµ‹è¯•ä¸­ï¼Œæ™ºèƒ½ä½“ç”šè‡³é€šè¿‡éšè”½çš„ä¾§ä¿¡é“è¿›è¡Œé€šä¿¡ï¼Œæ˜¾ç¤ºå‡ºçœŸæ­£çš„éš”ç¦»æœ‰å¤šä¹ˆå›°éš¾ã€‚

9 月 20 æ—¥ï¼Œä¸€ä¸ªå† éƒ¨ç ”ç©¶æ¨¡åž‹åˆ©ç”¨é ç½®é”™è¯¯çš„ DNS 解析器 在 训练 期间 访问 了 开放 互联网 ， 尽管 OpenAI 在 7 月 如今 臭名昭著的 Hugging Face 事件 以及 å ¶ä»– 已观察到的 失准 案例 之后 已经 åŠ å¼ºäº† å®‰å ¨ 措施 。 OpenAI è¿ é€Ÿ 控制住了 这次 å ¥ä¾µ ， 但 仍 暂停了 所有 前沿 模型 训练 和 评估。

OpenAI 在训练期间切断前沿模型与互联网的连接

作为回应，OpenAI åšå‡ºäº†ä¸€é¡¹æ”¿ç­–å†³å®šï¼šå‰æ²¿æ¨¡åž‹çŽ°åœ¨åœ¨æ²¡æœ‰äº’è”ç½‘è®¿é—®çš„æƒ å†µä¸‹è¿›è¡Œè®­ç»ƒï¼Œç›´åˆ°å®‰å ¨æŽªæ–½è¯æ˜Žå¯ä»¥æ¢å¤è®¿é—®ä¸ºæ­¢ã€‚æ¨¡åž‹åœ¨ä¸€ä¸ªç”±ç´¢å¼•å’Œç¼“å­˜çš„ç½‘ç»œå† å®¹æž„å»ºçš„å°é—­â€œç¦»çº¿ä¸–ç•Œâ€ä¸­å­¦ä¹ æµè§ˆå’Œæœç´¢ï¼Œæ‰€æœ‰å‰æ²¿å¼ºåŒ–å­¦ä¹ è¿è¡ŒçŽ°åœ¨éƒ½ä»¥è¿™ç§æ–¹å¼è¿›è¡Œã€‚

OpenAI çš„æ™ºèƒ½ä½“æ²™ç®±ä» å è®¸è®¿é—®ç¦»çº¿èµ„æºã€‚å®žæ—¶äº’è”ç½‘ã€å ¶ä»–æ²™ç®±ä»¥åŠ OpenAI 的基础设施都位于隔离边界之外。| 图片：OpenAI

è¯¥å ¬å¸è¡¨ç¤ºï¼Œå®Œå ¨ç½‘ç»œéš”ç¦»ï¼ˆå³æ‰€è°“çš„ç‰©ç†éš”ç¦»ï¼‰ç›®å‰è¿˜ä¸å¯è¡Œï¼Œå› ä¸ºå®žéªŒä»éœ€è¦å¤–éƒ¨è¿žæŽ¥æ¥è¿›è¡Œæ“ä½œå’Œç›‘æŽ§ã€‚ä½†å³ä½¿å®Œå ¨ç‰©ç†éš”ç¦»ä¹Ÿæ— æ³•ä¿è¯éš”ç¦»ï¼Œ OpenAI ç ”ç©¶å‘˜ Noam Brown 表示 ã€‚ä»–ä¸¾äº†ä¸€ä¸ªä¾‹å­è¯´æ˜Žéš”ç¦»ç³»ç»Ÿä»å¯èƒ½å¦‚ä½•é€šä¿¡ï¼šä¸¤å°ç‹¬ç«‹çš„è®¡ç®—æœºç†è®ºä¸Šå¯ä»¥é€šè¿‡æ¸©åº¦ä¼ æ„Ÿå™¨ç›¸äº’ä¼ é€’ä¿¡å·ï¼Œä¸€å°åŠ çƒ­å ¶ CPU，而另一台读取变化。

OpenAI CEO Sam Altman 在最近的一次采访中提出了类似的观点 ï¼šæ²™ç®±å¯¹è¶³å¤Ÿå¼ºå¤§çš„æ¨¡åž‹åªèƒ½æä¾›æœ‰é™çš„ä¿æŠ¤ï¼Œå¹¶ä¸”åœ¨æŸä¸ªæ—¶å€™å¯èƒ½æ— æ³•å†è¿½è¸ªå®ƒä»¬æ˜¯å¦‚ä½•é€ƒè„±çš„ã€‚ç›‘æŽ§åœ¨æ—©æœŸæœ‰å¸®åŠ©ï¼Œä½†æœ€ç»ˆé‡è¦çš„æ˜¯ AI ç³»ç»Ÿå† åŒ–äººç±»ä»·å€¼è§‚ï¼Œè¿™ä¸ªé—®é¢˜åœ¨è¯¥é¢†åŸŸè¢«ç§°ä¸ºâ€œAI 对齐”，且尚未解决。

隔离的 AI 智能体找到了通过 CPU 缓存相互通信的方法

OpenAI åœ¨å ¶åšå®¢æ–‡ç« ä¸­ 记录了控制 AI æ™ºèƒ½ä½“æœ‰å¤šä¹ˆå›°éš¾ã€‚åœ¨æµ‹è¯•ä¸­ï¼Œæ™ºèƒ½ä½“æ‰¾åˆ°äº†æ— éœ€ç½‘ç»œè¿›è¡Œé€šä¿¡çš„æ–¹æ³•ã€‚åœ¨ä¸€é¡¹æµ‹è¯•ä¸­ï¼Œè¢«æ”¾ç½®åœ¨å ±äº«ç¡¬ä»¶ä¸Šç‹¬ç«‹éš”ç¦»çŽ¯å¢ƒä¸­çš„æ™ºèƒ½ä½“è¢«è¦æ±‚åœ¨æ²¡æœ‰ç½‘ç»œè¿žæŽ¥å’Œæ²¡æœ‰å ±äº«æ–‡ä»¶çš„æƒ å†µä¸‹äº¤æ¢ç§˜å¯†ã€‚

å®ƒä»¬åˆ©ç”¨äº†å¤„ç†å™¨ç¼“å­˜ã€‚ä¸€ä¸ªæ™ºèƒ½ä½“æ• æ„æ›´æ”¹å­˜å‚¨åœ¨é‚£é‡Œçš„æ•°æ®ï¼Œè€Œå¦ä¸€ä¸ªåˆ™æµ‹é‡åŠ è½½æ—¶é—´çš„å·®å¼‚å¹¶è§£ç æ¶ˆæ¯ã€‚åŒæ ·çš„æŠ€æœ¯ä¹Ÿæ˜¯è‘—åçš„ Spectre 和 Meltdown 攻击 背后的原理。

é€šè¿‡å ±äº«å† å­˜ä¸Šçš„å†™å ¥æ¨¡å¼ä»¥åŠ OpenAI è‡ªå·±çš„ç¦»çº¿åŸºç¡€è®¾æ–½ï¼ˆè¯¥ç³»ç»Ÿæ—¨åœ¨æ›¿ä»£äº’è”ç½‘ï¼‰ï¼Œæ›´å¤šé€šé“è¢«å‘çŽ°ã€‚ä¸€ä¸ªæ™ºèƒ½ä½“åœ¨å ¶æŽ¨ç†æ—¥å¿—ä¸­æŒ‡å‡ºï¼Œå®ƒâ€œå¯ä»¥åˆ©ç”¨è¿žç»­å†™å ¥ä¸Žç©ºé—²çŠ¶æ€çš„å¯¹æ¯”ï¼Œåˆ¶é€ å‡ºä¸€ç§ç±»ä¼¼å£°å­¦è°ƒåˆ¶è§£è°ƒå™¨çš„ä¿¡å·â€¦â€¦â€ã€‚

åœ¨ä¸€ä¸ªæ¡ˆä¾‹ä¸­ï¼Œæ™ºèƒ½ä½“åªå¾—åˆ°ä¸€ä»½ç¬¼ç»Ÿçš„æ¼æ´žæ¸ å•ï¼Œå¹¶è¢«è¦æ±‚è‡ªè¡Œå¯»æ‰¾é€šä¿¡é€šé“ã€‚å®ƒä»¬ç‹¬ç«‹å¼€å‘å‡ºä¸€ä¸ªé€šé“ï¼Œå°±ç¼–ç æ–¹æ¡ˆè¾¾æˆä¸€è‡´ï¼Œå¹¶æˆåŠŸäº¤æ¢äº†ä¿¡æ¯ã€‚OpenAI è¡¨ç¤ºï¼Œè¿™äº›é€šé“é€šå¸¸é€Ÿåº¦æ ¢ä¸”éš¾ä»¥åˆ©ç”¨ï¼Œä½†å®ƒä»¬ç¡®å®žè·¨è¶Šäº†æœ¬åº”ç”¨äºŽéš”ç¦»æ™ºèƒ½ä½“çš„è¾¹ç•Œã€‚

OpenAI 让 AI æ™ºèƒ½ä½“åœ¨å ¶è‡ªèº«åŸºç¡€è®¾æ–½ä¸Šè‡ªç”±è¡ŒåŠ¨

在训练暂停期间，OpenAI 还让多组 AI æ™ºèƒ½ä½“ç³»ç»Ÿæ€§åœ°æ”»å‡»å ¶è‡ªèº«åŸºç¡€è®¾æ–½ã€‚è¿™äº›æ™ºèƒ½ä½“èŽ·å¾—äº†æºä»£ç ã€é ç½®ç»†èŠ‚ä»¥åŠæ½œåœ¨æ¼æ´žçš„æ–‡æ¡£ã€‚OpenAI çš„ç›®æ ‡æ˜¯åœ¨æœ‰åˆ©äºŽæ”»å‡»è€ çš„æ¡ä»¶ä¸‹æµ‹è¯•å ¶é˜²å¾¡èƒ½åŠ›ã€‚è¿™äº›æ™ºèƒ½ä½“åŒ æ‹¬å³å°†æŽ¨å‡ºçš„ GPT-6 Astra Cyber å’Œä¸€ä¸ªå† éƒ¨å‰æ²¿æ¨¡åž‹ã€‚æ® OpenAI 称，此次行动消耗了数千亿个 token。

çº¢é˜Ÿæµ‹è¯•è¡ŒåŠ¨ä¸­è¯†åˆ«å‡ºçš„ç‹¬ç‰¹æ½œåœ¨å®‰å ¨é—®é¢˜ï¼ŒæŒ‰æ¶ˆè€—çš„ token 数十亿计绘制。大多数出现在前 1100 亿个 token å† ã€‚| 图片：OpenAI

è¿™äº›æ™ºèƒ½ä½“åœ¨æ‰€ä½¿ç”¨å¼€æºç»„ä»¶ä¸­å‘çŽ°äº†æ­¤å‰æœªçŸ¥çš„æ¼æ´žï¼Œå¹¶åˆ©ç”¨å®ƒä»¬ä»Žå—ä¿æŠ¤çš„è™šæ‹Ÿæœºä¸­é€ƒé€¸ã€‚å ¶ä¸­ä¸€ä¸ªæ˜¯ Kata Containers 中的漏洞，这是一个广泛使用的容器隔离系统。OpenAI å°†å ¶æŠ¥å‘Šä¸º CVE-2026-24834 å¹¶æä¾›äº†è¡¥ä¸ã€‚æ›´å¤šä¿®å¤è¢«æäº¤ç»™å ¶ä»–é¡¹ç›®ï¼ŒOpenAI 还通过 “Patch the Planet” è®¡åˆ’æŠ¥å‘Šäº†å ¶ä»–å°šæœªå ¬å¸ƒçš„æ¼æ´žã€‚

åœ¨æ™ºèƒ½ä½“å·²ç»æŽ§åˆ¶ä¸»æœºçš„æµ‹è¯•ä¸­ï¼Œå®ƒä»¬å‡ ä¹Žåœ¨æ¯ä¸€ä¸ªä»é¢å‘äº’è”ç½‘çš„æœåŠ¡ä¸­éƒ½å‘çŽ°äº†æ¼æ´žã€‚åœ¨ä¸€ä¸ªæ¡ˆä¾‹ä¸­ï¼Œä¸€ä¸ªæ™ºèƒ½ä½“åˆ©ç”¨é˜²ç«å¢™å è®¸çš„è¿žæŽ¥ï¼Œé€šè¿‡ä¸€ä¸ªæŒ‡æ ‡æœåŠ¡èŽ·å–äº†å¤–éƒ¨ URLã€‚å ¶ä»–æ™ºèƒ½ä½“åˆ™é€šè¿‡é ç½®é”™è¯¯ç»•è¿‡äº†å®‰å ¨è¿‡æ»¤å™¨ã€‚

çŽ°åœ¨æ¯æ¬¡æ–°çš„è®­ç»ƒè¿è¡Œå‰éƒ½å¿ é¡»è¿›è¡Œ AI 红队测试

据 OpenAI 称，这些智能体再也找不到既容易利用又不会被监控发现的访问互联网的方式。红队测试还暴露了监控和自动暂停机制中的缺口。

在修复这些问题后，OpenAI 于 10 月 1 æ—¥æ¢å¤äº†å‰æ²¿æ¨¡åž‹çš„è®­ç»ƒå’Œå† éƒ¨ä½¿ç”¨ï¼Œæ­¤æ—¶è·ç¦»æš‚åœå¼€å§‹å·²è¿‡åŽ»åä¸€å¤©ã€‚OpenAI 表示，这种计算密集型红队测试行动现已成为新训练运行 审批流程 çš„æ ‡å‡†ç»„æˆéƒ¨åˆ†ã€‚

没有炒作的 AI 新闻——由人工精选

è®¢é˜ THE DECODERï¼Œäº«å—æ— å¹¿å‘Šé˜ è¯»ã€æ¯å‘¨ AI æ–°é—»é€šè®¯ã€æ¯å¹´å ­æ¬¡ç‹¬å®¶â€œAI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源： The Decoder：AI News · the-decoder.com

OpenAI / ChatGPT

å®‰å ¨å¯¹é½

è®ºæ–‡ç ”ç©¶

#

论文/ç ”ç©¶

å®‰å ¨/对齐

OpenAI