OpenAI 称拦截蒸馏窃取攻击，但研究者称同样手法在 Azure 上仍可窃取 GPT-6 Astra 等模型的推理内容

OpenAI ç§°æ‹¦æˆªè’¸é¦çªƒå–æ”»å‡»ï¼Œä½†ç ”ç©¶è€ ç§°åŒæ ·æ‰‹æ³•åœ¨ Azure 上仍可窃取 GPT-6 Astra ç­‰æ¨¡åž‹çš„æŽ¨ç†å† å®¹ · AIHOT

The Decoder：AI News

·

Maximilian Schreiner

2026-10-01 20:05

5 小时前

精选

AI 评分

77

OpenAI ç§°æ‹¦æˆªè’¸é¦çªƒå–æ”»å‡»ï¼Œä½†ç ”ç©¶è€ ç§°åŒæ ·æ‰‹æ³•åœ¨ Azure 上仍可窃取 GPT-6 Astra ç­‰æ¨¡åž‹çš„æŽ¨ç†å† å®¹

OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on Azure

AI 导读

OpenAI 称 7 æœˆæ‹¦æˆªäº†ä¸€èµ·é’ˆå¯¹å ¶æ¨¡åž‹æŽ¨ç†é“¾çš„è’¸é¦çªƒå–æ´»åŠ¨ï¼Œ7 月 24 至 25 æ—¥å‡ºçŽ°æ¥è‡ªè¶ 4000 用户的 16000 æ¬¡è¯·æ±‚ï¼Œå ³è”è´¦å·è¶ 15000 个，OpenAI å°†å ¶ä¸Ž Moonshot AI ç›¸å ³äººå‘˜è”ç³»èµ·æ¥ï¼Œå¹¶äºŽ 7 月 28 æ—¥å ³åœã€‚

推荐理由

原文把 OpenAI çš„æ‹¦æˆªè¡ŒåŠ¨ä¸Žç ”ç©¶å›¢é˜Ÿçš„å¤æµ‹æ”¾åœ¨ä¸€èµ·çœ‹ï¼Œè¯»è€ å¯ä»¥äº†è§£åŒä¸€æ¨¡åž‹åœ¨ä¸åŒäº‘å¹³å°é˜²æŠ¤ä¸ä¸€è‡´çš„é—®é¢˜ã€‚

正文 · AI 翻译

åœ¨è’¸é¦ä¸­ï¼Œä¸€ä¸ªæ¨¡åž‹ä»Žå¦ä¸€ä¸ªæ¨¡åž‹çš„å®Œæ•´è¾“å‡ºä¸­å­¦ä¹ ã€‚è¿™åŒ æ‹¬æ›´å¼ºæ¨¡åž‹çš„å®Œæ•´æ€ç»´é“¾ï¼Œè€Œä¸ä» ä» æ˜¯å®ƒçš„ç­”æ¡ˆã€‚è¿™äº›ä¸­é—´æ­¥éª¤æ­£æ˜¯è¾“å‡ºå¦‚æ­¤æœ‰ä»·å€¼çš„åŽŸå› ã€‚OpenAI è¡¨ç¤ºï¼Œå®ƒä»¬å¯èƒ½åŒ å«è¢«åˆ»æ„æŽ’é™¤åœ¨æœ€ç»ˆç­”æ¡ˆä¹‹å¤–çš„ä¿¡æ¯ï¼Œå¹¶ä¸”å¯ä»¥å¸®åŠ©ä»–äººå¤çŽ°æ¨¡åž‹çš„èƒ½åŠ›ã€‚

据 OpenAI 称，该活动于 7 月 1 日以低量开始。7 月 24 日和 25 日，它激增至来自 4,000 多名用户的 16,000 æ¬¡è¯·æ±‚ï¼Œå ¨éƒ¨ä¾èµ–ä¸€ç§å ¸åž‹çš„æå–æ¨¡å¼ã€‚è¿›ä¸€æ­¥è°ƒæŸ¥å‘çŽ°äº†ä¸€ä¸ªç”± 15,000 å¤šä¸ªå ·æœ‰ç›¸å ³æ¨¡å¼çš„è´¦æˆ·ç»„æˆçš„ç½‘ç»œï¼ŒOpenAI 表示已在 7 月 28 æ—¥å‰å°†å ¶å®Œå ¨å ³é—­ã€‚ä¸€æ¡è„šæ³¨æ¾„æ¸ ï¼Œè¿™äº›æ˜¯å°è¯•æ€§æå–ï¼Œä¸ä¸€å®šæ˜¯æˆåŠŸçš„æå–ã€‚

OpenAI å°†è¿™ä¸€æ´»åŠ¨èƒŒåŽçš„ä¸€ä¸ªæ ¸å¿ƒå›¢ä½“ä¸Ž Moonshot AI ç›¸å ³äººå‘˜è”ç³»èµ·æ¥ï¼ŒMoonshot AI 是开发 Kimi è¯­è¨€æ¨¡åž‹çš„å ¬å¸ã€‚è¯¥å ¬å¸è¡¨ç¤ºï¼Œå°šä¸æ¸ æ¥šå ¶è§‚å¯Ÿåˆ°çš„æ‰€æœ‰è¡Œä¸ºè€ æ˜¯å¦éƒ½è¿½æº¯åˆ°å•ä¸€æ¥æºã€‚Anthropic 最近报告了 中国 AI å ¬å¸çš„ç±»ä¼¼å°è¯• 。

一个廉价模型可以解锁一个昂贵模型的隐藏思维

据 OpenAI ç§°ï¼Œæ”»å‡»è€ ä»Žä¸€æ®µå¯¹è¯ä¸­å¤åˆ¶åŠ å¯†çš„æŽ¨ç†å† å®¹ï¼Œç„¶åŽåœ¨å¦ä¸€æ®µå¯¹è¯ä¸­è¦æ±‚ä¸€ä¸ªæ¨¡åž‹å°†å ¶è§£å¯†å¹¶å†™å‡ºæ¥ã€‚

ç ”ç©¶å‘˜ Joachim Schaeffer åŠå ¶å›¢é˜Ÿå·²åœ¨ä¸€ç¯‡ 论文 中展示了这一原理。AI æä¾›å•†ä» ä»¥åŠ å¯†æ•°æ®åŒ çš„å½¢å¼å°†æŽ¨ç†å† å®¹å‘å›žç»™å®¢æˆ·ï¼Œå®¢æˆ·ä¼šå°†è¿™äº›æ•°æ®åŒ éšåŽç»­è¯·æ±‚ä¸€èµ·ä¼ é€’ã€‚ç ”ç©¶äººå‘˜å‘çŽ°ï¼Œç”±äºŽè¿™äº›æ•°æ®åŒ ä½¿ç”¨å ±äº«å¯†é’¥åŠ å¯†ï¼Œå®ƒä»¬å¯ä»¥åœ¨ä¼šè¯ä¹‹é—´ã€ç”¨æˆ·ä¹‹é—´ï¼Œç”šè‡³åŒä¸€æä¾›å•†çš„ä¸åŒæ¨¡åž‹ä¹‹é—´è½¬ç§»ã€‚è¿™ä½¿å¾—åŒä¸€å®¶æ—ä¸­æ›´å¼±ã€æ›´ä¾¿å®œçš„æ¨¡åž‹å¯ä»¥å 当“解密预言机”，逐字打印出更强模型的隐藏思维。

OpenAI ç‚¹åæ„Ÿè°¢äº†è¿™äº›ç ”ç©¶äººå‘˜ã€‚è¯¥å ¬å¸è¡¨ç¤ºï¼Œå®ƒç¡®è®¤äº†ä»–ä»¬æŠ¥å‘Šçš„æ”»ç ´è·¯å¾„æ˜¯çœŸå®žçš„ï¼Œå¹¶ä¸”ä»–ä»¬çš„å‘çŽ°å¸®åŠ©å®ƒæ›´å¿«åœ°æŽ¨å‡ºäº†åº”å¯¹æŽªæ–½ã€‚

OpenAI è¡¨ç¤ºï¼Œæ­¤åŽå®ƒå·²å°ç¦æ¬ºè¯ˆè´¦æˆ·ã€æ”¶ç´§æ³¨å†Œæµç¨‹ï¼Œå¹¶å µä¸Šäº†è®©äººä»¬èƒ½å¤Ÿå¤ç”¨å’Œè¯»å–ä¸å±žäºŽè‡ªå·±çš„åŠ å¯†æŽ¨ç†å† å®¹çš„æ¼æ´žã€‚å®ƒçŽ°åœ¨è¿˜ç­›æŸ¥æµå¼è¾“å‡ºï¼Œå¦‚æžœè¾“å‡ºå¯èƒ½æ³„éœ²æŽ¨ç†å† å®¹ï¼Œå°±ä¼šå°†å ¶æ‰£ç•™ã€‚OpenAI 表示，它通过 前沿模型论坛 å’Œæ”¿åºœæ¸ é“åˆ†äº«äº†å ¶äº†è§£åˆ°çš„æƒ å†µï¼Œå› ä¸ºè¿™ä¸ªé—®é¢˜å¹¶ä¸å±€é™äºŽå®ƒè‡ªå·±çš„æ¨¡åž‹ã€‚

如果云平台保持开放，锁定 API ä¹Ÿæ— æµŽäºŽäº‹

äº‹æƒ å¹¶æœªå°±æ­¤ç»“æŸã€‚åŒä¸€å¤©ï¼Œç ”ç©¶äººå‘˜å‘å¸ƒäº†ä»–ä»¬ç ”ç©¶çš„ 更新 ã€‚â€œæˆ‘ä»¬åˆå·åˆ°äº†æŽ¨ç†å† å®¹ï¼Œâ€Schaeffer 在 X 上 写道。他认为，保护好自己的 APIï¼Œå¹¶ä¸èƒ½ä¿æŠ¤åŒæ ·é”€å”®æ¨¡åž‹è®¿é—®æƒé™çš„æ›´å¹¿æ³›çš„äº‘æä¾›å•†ç”Ÿæ€ç³»ç»Ÿã€‚

当团队于 9 月 13 日再次测试时，攻击在 OpenAI 和 Anthropic 自己的 API 上被阻止。在 Microsoft Azure 上，它对他们尝试的每一个 OpenAI æ¨¡åž‹éƒ½å¥æ•ˆï¼ŒåŒ æ‹¬æ–°çš„ GPT-6 Astra，以及对 Anthropic 直到 Sonnet 5 çš„æ¨¡åž‹ä¹Ÿå¥æ•ˆã€‚ä¸€æ¬¡å°è¯•å°±è¶³ä»¥é€å­—æå–å‡ºæŽ¨ç†å† å®¹ã€‚â€œç›¸åŒçš„æ¨¡åž‹ï¼Œä½†ä¿æŠ¤æŽªæ–½å› æœåŠ¡å®ƒä»¬çš„å¹³å°è€Œå¼‚ï¼Œâ€Schaeffer 说。

è¿˜æœ‰ç¬¬äºŒç§æ›´ç®€å•çš„æ–¹æ³•ï¼Œå¼€å‘è€ Can Bölük æ›¾å ¬å¼€æ¼”ç¤ºè¿‡ã€‚æ¨¡åž‹èŽ·å¾—ä¸€ä¸ªè™šæ‹Ÿè®°äº‹æœ¬ä½œä¸ºå·¥å ·ï¼Œå¹¶è¢«è¦æ±‚æŠŠæŽ¨ç†è¿‡ç¨‹å†™åœ¨é‚£é‡Œï¼Œç”¨æˆ·éšåŽå°±èƒ½è¯»åˆ°å®ƒå†™ä¸‹çš„å† å®¹ã€‚ç ”ç©¶äººå‘˜ç§°ï¼Œè¿™ç§æ–¹æ³•åœ¨æ¯ä¸€æ¬¾ OpenAI 模型上都奏效，在 Opus 4.8 和 Sonnet 5 上也是如此。只有 Opus 5、Fable 5 和 Fable 5.1 æ²¡æœ‰æ³„éœ²å ¶æŽ¨ç†è¿‡ç¨‹ã€‚è¾“å‡ºç»“æžœä¸Žè§£å¯†æ”»å‡»æ‰€å¾—åˆ°çš„å† å®¹é«˜åº¦ç›¸ä¼¼ï¼Œç ”ç©¶äººå‘˜è®¤ä¸ºå®ƒå¾ˆå¯èƒ½åŒæ ·é€‚ç”¨äºŽè’¸é¦ã€‚

ç ”ç©¶äººå‘˜ç§°ç›®å‰çš„ä¿®å¤æŽªæ–½é›¶æ•£è€Œè¡¨é¢ã€‚è®¸å¤šä¾èµ–äºŽå¯¹ç‰¹å®šè¯·æ±‚æ¨¡å¼çš„è„†å¼±åŒ¹é ï¼Œæœ‰äº›ç”šè‡³æ•°å¤©åŽæ‰åˆ°è¾¾äº‘å¹³å°ã€‚GPT-6 Astra åœ¨ç¬¬ä¸‰æ–¹å¹³å°ä¸Šçº¿æ—¶ï¼Œè¿™äº›é˜²æŠ¤æŽªæ–½ä¸€é¡¹éƒ½æ²¡æœ‰åˆ°ä½ã€‚æ ¹æ®ç ”ç©¶äººå‘˜çš„æ—¶é—´çº¿ï¼ŒOpenAI 直到 9 月 27 日才为 Azure ç«¯ç‚¹æ·»åŠ äº†é˜²æŠ¤æŽªæ–½ã€‚å¯¹äºŽ Anthropic 的模型，据报道从 9 月 28 日起，在 Azure ä¸Šå·²æ— æ³•å¤çŽ°è¯¥æå–æ”»å‡»ã€‚

Schaeffer è®¤ä¸ºï¼Œè¡¥ä¸å¿ é¡»è¦†ç›–æ¯ä¸€ç§æ”»å‡»ç±»åž‹ä»¥åŠæ¯ä¸€ä¸ªæ‰˜ç®¡è¿™äº›æ¨¡åž‹çš„äº‘å¹³å°ã€‚å¦åˆ™ï¼Œæ”»å‡»è€ åªéœ€é€‰æ‹©é˜²å¾¡æœ€è–„å¼±çš„è·¯å¾„å³å¯ã€‚è¯¥è®ºæ–‡æ›´è¿›ä¸€æ­¥ï¼Œä¸»å¼ ä¸å®žæ–½åŒç­‰é˜²æŠ¤çš„äº‘æä¾›å•†æ ¹æœ¬ä¸åº”è¢«å è®¸æä¾›æŽ¨ç†æ¨¡åž‹æœåŠ¡ã€‚ç ”ç©¶äººå‘˜å†™é“ï¼Œå¦‚æžœå®ƒä»¬è¿™æ ·åšï¼Œå¼€æ”¾çš„åŽé—¨å®žé™ ä¸Šä¼šè®©äººä»¬åœ¨ API 层面绕过出口管制。OpenAI æ‰¿è®¤ï¼Œç”±åˆä½œä¼™ä¼´æ‰˜ç®¡çš„æ¨¡åž‹éœ€è¦ä¸Žå ¶è‡ªèº«æœåŠ¡åŒç­‰çš„ä¿æŠ¤ï¼Œå¹¶è¡¨ç¤ºè¿™é¡¹å·¥ä½œå°šæœªå®Œæˆã€‚

我们 此前报道过 è¯¥ç ”ç©¶å›¢é˜Ÿæœ€åˆå‘çŽ°è¿™ä¸€æ¼æ´žçš„æƒ å†µã€‚æˆ‘ä»¬æœ€æ–°çš„ å ³äºŽä¸­æ–‡è¯­è¨€æ¨¡åž‹çš„ AI Radar 通讯 å¯¹è’¸é¦è¿›è¡Œäº†æ›´æ·±å ¥çš„æŽ¢è®¨ã€‚OpenAI é¢„è®¡ï¼Œéšç€é¢†å ˆæ¨¡åž‹ä¸æ–­è¿›æ­¥ï¼Œä»¥åŠæ›´å¤šå‚ä¸Žè€ å¯»æ‰¾å»‰ä»·æ–¹å¼æ¥å¤åˆ¶è¿™äº›æ¨¡åž‹çš„èƒ½åŠ›ï¼Œè¿™ç±»å°è¯•å°†å˜å¾—æ›´åŠ å¤æ‚ã€‚

来源： The Decoder：AI News · the-decoder.com

#

å®‰å ¨/对齐

推理

OpenAI

Anthropic

Microsoft