OpenAI 公布 EU AI Act 下的文本溯源方案，推出 textGrain 文本水印

OpenAI å ¬å¸ƒ EU AI Act 下的文本溯源方案，推出 textGrain 文本水印 · AIHOT

OpenAI：官网动态

·

2026-10-05 23:00

9 小时前

精选

AI 评分

60

OpenAI å ¬å¸ƒ EU AI Act 下的文本溯源方案，推出 textGrain 文本水印

Our approach to EU text provenance rules

AI 导读

OpenAI å ¬å¸ƒåº”å¯¹ EU AI Act çš„æ–‡æœ¬æ°´å°æ–¹æ¡ˆï¼Œå‘å¸ƒåœ¨æ¨¡åž‹è¯é€‰æ‹©ä¸­åŠ å ¥ä¸å¯è§ç»Ÿè®¡ä¿¡å·çš„ textGrain 技术，API 客户即日起可对部分模型选择性开启水印，未来数周将在欧盟地区为 ChatGPT 和 Codex è¾“å‡ºæ·»åŠ éšå½¢æ°´å°ï¼Œæ£€æµ‹å™¨æš‚åªå‘èŽ·æ‰¹çš„ç ”ç©¶è€ å’Œä¸“å®¶æœºæž„å¼€æ”¾ã€‚

推荐理由

原文给出 textGrain çš„æ£€æµ‹æ•°æ®å’Œå±€é™è¾¹ç•Œï¼Œè¯»è€ å¯ä»¥æ®æ­¤äº†è§£æ–‡æœ¬æ°´å°ç›®å‰çš„å®žé™ èƒ½åŠ›å’Œé€‚ç”¨æ¡ä»¶ã€‚

另有 7 家信源报道

正文 · AI 翻译

我们在欧盟文本溯源规则上的做法

在当今技术条件下促进透明度。

åŠ è½½ä¸­â€¦

音频 1

分享

å† å®¹æº¯æº å¸®åŠ©äººä»¬äº†è§£å† å®¹çš„æ¥æºã€åˆ›å»ºæˆ–ç¼–è¾‘æ–¹å¼ï¼Œä»¥åŠå ¶ä¸­æ˜¯å¦åŒ å«ä¸Žæˆ‘ä»¬æ¨¡åž‹ç›¸å ³çš„ä¿¡å·ã€‚æˆ‘ä»¬å·²å ¬å¼€æä¾›å·¥å ·ï¼Œç”¨äºŽè¯†åˆ«ç”±æˆ‘ä»¬æ¨¡åž‹ç”Ÿæˆçš„å›¾åƒå’ŒéŸ³é¢‘ã€‚ä»Šå¤©ï¼Œæˆ‘ä»¬åˆ†äº«é’ˆå¯¹æ¬§ç›Ÿã€Šäººå·¥æ™ºèƒ½æ³•æ¡ˆã€‹çš„æ–‡æœ¬æ°´å°æ–¹æ¡ˆï¼Œä»¥åŠå®ƒå¦‚ä½•èžå ¥æˆ‘ä»¬æ›´å¹¿æ³›çš„å·¥ä½œã€‚

欧盟《人工智能法案》要求生成式 AI æä¾›å•†ä»¥æœºå™¨å¯è¯»çš„æ–¹å¼ä½¿ç”Ÿæˆçš„æ–‡æœ¬å¯è¢«è¯†åˆ«ã€‚æ–‡æœ¬æ°´å°å’Œæ£€æµ‹ä»å±žæ—©æœŸæŠ€æœ¯ï¼Œå­˜åœ¨æ˜¾è‘—å±€é™ï¼Œå ³äºŽå ¶ç›Šå¤„å’Œè´Ÿè´£ä»»ä½¿ç”¨çš„çœ‹æ³•ä»åœ¨å‘å±•ä¸­ã€‚æˆ‘ä»¬çš„åˆ†é˜¶æ®µæ–¹æ¡ˆæ—¢åæ˜ äº†æ¬§ç›Ÿã€Šäººå·¥æ™ºèƒ½æ³•æ¡ˆã€‹çš„è¦æ±‚ï¼Œä¹Ÿåæ˜ äº†è¯¥æŠ€æœ¯çš„å±€é™ï¼Œå¹¶å¼ºè°ƒå¯¹æ–‡æœ¬æ°´å°èƒ½å‘Šè¯‰äººä»¬ä»€ä¹ˆã€ä¸èƒ½å‘Šè¯‰äººä»¬ä»€ä¹ˆçš„é€æ˜Žåº¦ï¼š

• ä»Žä»Šå¤©èµ·ï¼Œå ¨çƒ API 客户将能够为部分模型选择启用文本水印。文本水印在 API ä¸­é»˜è®¤ä¿æŒå ³é—­ã€‚

• åœ¨æœªæ¥å‡ å‘¨å† ï¼Œæˆ‘ä»¬å°†ä¸ºæ¬§ç›Ÿå¢ƒå† ç¬¦åˆæ¡ä»¶çš„ ChatGPT 和 Codex æ–‡æœ¬è¾“å‡ºæ·»åŠ ä¸å¯è§æ°´å°ã€‚

• æˆ‘ä»¬å¼€æ”¾æ–‡æœ¬æ°´å°æ£€æµ‹å™¨çš„ç”³è¯·ã€‚è®¿é—®æƒé™æœ€åˆå°†ä» é™äºŽç»æ‰¹å‡†çš„ç ”ç©¶äººå‘˜å’Œä¸“å®¶ç»„ç»‡ï¼Œä»–ä»¬å¯ä»¥å¸®åŠ©æˆ‘ä»¬è¯„ä¼°å’Œæ”¹è¿›è¿™é¡¹æŠ€æœ¯ã€‚ ä»¥ä¸Šä» é€‚ç”¨äºŽæ–‡æœ¬æº¯æºâ€”â€”æˆ‘ä»¬ç”¨äºŽéŸ³é¢‘å’Œå›¾åƒçš„éªŒè¯å·¥å ·ï¼ŒåŒ æ‹¬æˆ‘ä»¬çš„ openai.com/verifyâ ç½‘é¡µå·¥å ·å’Œæˆ‘ä»¬çš„ Content Provenance API⁠（在新窗口中打开） ï¼Œå°†ç»§ç»­å‘å¸Œæœ›äº†è§£å›¾åƒæˆ–éŸ³é¢‘æ–‡ä»¶æ˜¯å¦ç”±æˆ‘ä»¬æŸä¸ªç³»ç»Ÿç”Ÿæˆçš„ç»„ç»‡å ¬å¼€å¼€æ”¾ã€‚

我们的水印如何工作及表现如何

我们的文本水印技术 textGrain ä¼šå‘æ¨¡åž‹çš„ç”¨è¯é€‰æ‹©ä¸­æ·»åŠ ä¸€ç§ä¸å¯è§çš„ç»Ÿè®¡ä¿¡å·ã€‚æˆ‘ä»¬çš„æ£€æµ‹å™¨ä¼šå¯»æ‰¾è¯¥ä¿¡å·ï¼Œä»¥è¯„ä¼°ä¸€æ®µæ–‡å­—æ˜¯å¦åŒ å« OpenAI æ°´å°ã€‚æœ‰å ³ textGrain 工作原理的更多细节可在我们的 技术报告⁠（在新窗口中打开） ä¸­æ‰¾åˆ°ï¼Œè¯¥æŠ¥å‘Šå°†åœ¨æœªæ¥å‡ å‘¨å† æ›´æ–°æ›´å¤šç»†èŠ‚ã€‚æˆ‘ä»¬è¿˜è®¡åˆ’å°†è¯¥æŠ€æœ¯å¼€æºï¼Œä»¥ä¾¿ä»–äººåœ¨æ­¤åŸºç¡€ä¸Šç»§ç»­å¼€å‘ã€‚

在我们的评估中，textGrain è¾¾åˆ°æˆ–è¶ è¿‡äº†æˆ‘ä»¬æµ‹è¯•è¿‡çš„å ¶ä»–æ–¹æ³•çš„è¡¨çŽ°ï¼ŒåŒ æ‹¬ç”¨äºŽæ–‡æœ¬çš„ SynthIDã€‚å³ä¾¿å¦‚æ­¤ï¼Œç†æƒ³æ¡ä»¶ä¸‹çš„å¼ºåŠ²è¡¨çŽ°å¹¶ä¸èƒ½ä¿è¯åœ¨æ—¥å¸¸ä½¿ç”¨ä¸­å¯é æ£€æµ‹ã€‚

æ£€æµ‹å™¨å¯èƒ½çŠ¯ä¸¤ç±»é”™è¯¯ï¼šå®ƒä»¬å¯èƒ½åœ¨ä¸å­˜åœ¨æ°´å°æ—¶æŠ¥å‘Šå­˜åœ¨æ°´å°â€”â€”å³å‡é˜³æ€§â€”â€”æˆ–æ¼æŽ‰å­˜åœ¨çš„æ°´å°â€”â€”å³å‡é˜´æ€§ã€‚ä»¥ä¸‹è¯„ä¼°è¯´æ˜Žäº†å ¶ä¸­ä¸€äº›æŒ‘æˆ˜ï¼š

• 更短或更受限的文本更难检测。 在 1% çš„ç›®æ ‡å‡é˜³æ€§çŽ‡ä¸‹ï¼Œå¯¹äºŽå¿ƒç†å­¦ç­‰å† å®¹ï¼Œæˆ‘ä»¬çš„æ£€æµ‹å™¨åœ¨çº¦ 80% 的 200 token 段落中识别出水印，而在 400 token 段落中约为 95%ã€‚å¯¹äºŽæ•°å­¦ç­‰ç”¨è¯çµæ´»æ€§è¾ƒä½Žçš„å† å®¹ï¼Œæ£€æµ‹çŽ‡åˆ™å¤§å¹ é™ä½Žã€‚

• 编辑会削弱水印。 在一项针对 400 token 段落的评估中，将 10% 的词语替换为同义词使检测率从约 92% 降至 66%。替换 25% çš„è¯è¯­åˆ™ä½¿å ¶é™è‡³ 17%。

è¿™äº›å±€é™æ€§ä¿ƒä½¿æˆ‘ä»¬å†³å®šä» å‘ç»è¿‡æ‰¹å‡†çš„ç ”ç©¶äººå‘˜å’Œä¸“å®¶ç»„ç»‡æä¾›åˆå§‹æ£€æµ‹å™¨è®¿é—®æƒé™ï¼Œä»–ä»¬å¯ä»¥å¸®åŠ©æˆ‘ä»¬è¯„ä¼°å¯é æ€§å’Œè´Ÿè´£ä»»çš„ä½¿ç”¨æ–¹å¼ã€‚

该图表展示了针对数学和心理学问题的带水印响应的结果，这些问题来自 ELI5 数据集⁠（在新窗口中打开） ï¼Œç›®æ ‡å‡é˜³æ€§çŽ‡ä¸º 1%ã€‚æ£€æµ‹æ•ˆæžœéšæ–‡æœ¬é•¿åº¦å¢žåŠ è€Œæå‡ï¼Œä½†å¯¹äºŽç”¨è¯çµæ´»æ€§è¾ƒä½Žçš„å† å®¹ï¼ˆå¦‚æ•°å­¦ï¼‰ï¼Œæ•´ä½“æ£€æµ‹çŽ‡æ˜¾è‘—æ›´ä½Žã€‚

ç¼–è¾‘ä¼šå¤§å¹ å‰Šå¼±æ°´å°ä¿¡å·ã€‚è¯¥å›¾è¡¨å±•ç¤ºäº†æ›¿æ¢æ®µè½ä¸­ 10% 或 25% 的词语如何影响检测。结果基于对来自 ELI5⁠（在新窗口中打开） 问题的带水印英文响应。

水印对输出质量的影响

在用于评估 Astraï¼ˆæˆ‘ä»¬æœ€æ–°çš„å‰æ²¿æ¨¡åž‹ï¼‰çš„å„é¡¹åŸºå‡†æµ‹è¯•ä¸­ï¼Œæˆ‘ä»¬æœªå‘çŽ°åŠ æ°´å°ä¸Žä¸åŠ æ°´å°ä¹‹é—´å­˜åœ¨æœ‰æ„ä¹‰çš„æ€§èƒ½å·®å¼‚ã€‚

基准测试

æ— æ°´å°æ–‡æœ¬ï¼ˆAstra，max）

带水印文本（Astra，max）

Artificial Analysis Intelligence Index

49.57 分

49.76 分

AutomationBench

34.09%

34.86%

DeepSWE v1.1

72.80%

71.68%

Terminal-Bench 4.0

53.90%

56.06%

Terminal-Bench Science 0.1

56.90%

60.00%

BrowseComp

87.92%

87.35%

HealthBench Professional

64.27%

64.60%

GPQA Diamond

94.44%

93.94%

æ–‡æœ¬æ°´å°æ— æ³•å‘Šè¯‰ä½ ä»€ä¹ˆ

æ–‡æœ¬æ°´å°åªèƒ½æä¾›å ³äºŽæˆ‘ä»¬çš„ç³»ç»Ÿåœ¨æ®µè½ä¸­æ‰€èµ·ä½œç”¨çš„æœ‰é™ä¿¡å·ã€‚ç†è§£æ£€æµ‹ç»“æžœèƒ½å¾—å‡ºå’Œä¸èƒ½å¾—å‡ºä»€ä¹ˆç»“è®ºéžå¸¸é‡è¦ã€‚

• 水印不能衡量人类的贡献。 它可以表明 OpenAI ç³»ç»Ÿç”Ÿæˆæˆ–å¤„ç†äº†æ®µè½çš„æŸéƒ¨åˆ†ï¼Œä½†æ— æ³•è¯´æ˜Žå ¶ä¸­åŒ å«å¤šå°‘äººç±»åˆ¤æ–­ã€ç¼–è¾‘æˆ–åˆ›é€ åŠ›ã€‚

• 水印不能确立所有权或责任。 å®ƒä¸èƒ½ç¡®å®šæ–‡æœ¬å½’è°æ‰€æœ‰ã€å ¶ä½¿ç”¨æ˜¯å¦åˆæ³•ã€æ˜¯å¦éœ€è¦æŠ«éœ²ï¼Œæˆ–ç”±è°è´Ÿè´£ã€‚

• 水印不能识别用户。 å®ƒä¸ä¼šå°†ä¸ªäººã€ç»„ç»‡ã€è´¦æˆ·ã€æç¤ºè¯æˆ–å¯¹è¯ä¸Žæ–‡æœ¬å ³è”èµ·æ¥ã€‚

• 水印不能验证准确性。 å®ƒä¸èƒ½å‘Šè¯‰ä½ æ®µè½æ˜¯å¦çœŸå®žã€å ·æœ‰è¯¯å¯¼æ€§ã€æœ‰å®³ï¼Œæˆ–æ˜¯å¦å‘ˆçŽ°äºŽæ­£ç¡®çš„è¯­å¢ƒä¸­ã€‚

• 未检测到水印并不能证明是人类创作。 使用 OpenAI å·¥å ·ç”Ÿæˆçš„æ–‡æœ¬å¯èƒ½å› è¿‡çŸ­ã€ç»è¿‡ç¼–è¾‘æˆ–ç¿»è¯‘è€Œæ— æ³•å¯é æ£€æµ‹ã€‚å®ƒä¹Ÿå¯èƒ½æ¥è‡ªä¸å—æ”¯æŒçš„æ¨¡åž‹ã€æ—©äºŽæ°´å°åŠŸèƒ½æŽ¨å‡ºï¼Œæˆ–ç”±å ¶ä»–å ¬å¸çš„å·¥å ·ç”Ÿæˆã€‚

我们的下一步

• 在欧盟推出文本水印。 åœ¨æœªæ¥å‡ å‘¨å† ï¼Œæˆ‘ä»¬å°†ä» åœ¨æ¬§ç›Ÿé¢å‘æ‰€æœ‰å¥—é¤çš„ç¬¦åˆæ¡ä»¶çš„ ChatGPT 和 Codex ç”¨æˆ·å¼•å ¥æ–‡æœ¬æ°´å°ã€‚æˆ‘ä»¬ä¸ä¼šåœ¨å‘å¸ƒæ—¶å°†æ–‡æœ¬æ°´å°è®¾ä¸ºå ¨çƒé»˜è®¤ã€‚è¿™ç§åŒºåŸŸæ€§åšæ³•è®©æˆ‘ä»¬æœ‰ç©ºé—´ä»Žå®žé™ ä½¿ç”¨å’Œåé¦ˆä¸­å­¦ä¹ ã€‚

• 为 API 客户启用可选水印。 ä»Žä»Šå¤©èµ·ï¼Œå ¨çƒçš„ API å®¢æˆ·å°†èƒ½å¤Ÿä¸ºéƒ¨åˆ†æ¨¡åž‹é€‰æ‹©å¯ç”¨å¸¦æ°´å°çš„æ–‡æœ¬è¾“å‡ºã€‚è¿™è®©å®¢æˆ·å¯ä»¥å†³å®šæ°´å°å¦‚ä½•å¥‘åˆå ¶é€æ˜Žåº¦ä¹‰åŠ¡ä»¥åŠä»–ä»¬ä¸ºç”¨æˆ·æä¾›çš„ä½“éªŒã€‚æˆ‘ä»¬è¿˜åœ¨ä¸Žäº‘åˆä½œä¼™ä¼´åˆä½œï¼Œåœ¨æœªæ¥å‡ å‘¨å† ä¸ºé€šè¿‡å ¶æœåŠ¡è®¿é—®çš„ OpenAI 模型输出提供水印。

• ä¸ºç ”ç©¶äººå‘˜å’Œä¸“å®¶ç»„ç»‡æä¾›æ£€æµ‹å™¨è®¿é—®æƒé™ã€‚ ç»æ‰¹å‡†çš„ç ”ç©¶äººå‘˜å’Œä¸“å®¶ç»„ç»‡å¯ä»Žä»Šå¤©èµ· 申请 ã€‚æ ¹æ® 实践准则⁠（在新窗口中打开） ï¼Œè®¿é—®æƒé™æœ€åˆå°†æŒ‰ä¸ªæ¡ˆæŽˆäºˆï¼Œä»¥æ”¯æŒæ–‡æœ¬æ¥æºçš„è¯„ä¼°å’Œæ”¹è¿›ã€‚è¯¥å·¥å ·å°†æŠ¥å‘Šæ˜¯å¦æ£€æµ‹åˆ° OpenAI æ°´å°ï¼Œè€Œä¸ä¼šè¯†åˆ«ç”¨æˆ·æˆ–æŠ«éœ²å ¶æç¤ºæˆ–å¯¹è¯ã€‚é‰´äºŽæ°´å°æ¼æ£€å’Œè¯¯æŠ¥çš„é£Žé™©ï¼Œæˆ‘ä»¬åœ¨å‘å¸ƒæ—¶ä¸ä¼šå°†å ¶å ¬å¼€æä¾›ã€‚

éšç€æŠ€æœ¯ã€æ ‡å‡†å’Œè¯æ®çš„å‘å±•ï¼Œæˆ‘ä»¬é¢„è®¡ä¼šé‡æ–°å®¡è§†è¿™ä¸€æ–¹æ³•çš„æ¯ä¸ªéƒ¨åˆ†ã€‚

æˆ‘ä»¬åœ¨å† å®¹æ¥æºæ–¹é¢çš„æ›´å¹¿æ³›æ–¹æ³•

æ²¡æœ‰ä»»ä½•å•ä¸€æ¥æºæŠ€æœ¯æœ¬èº«è¶³å¤Ÿï¼Œå› æ­¤æˆ‘ä»¬é‡‡ç”¨åˆ†å±‚æ–¹æ³•ï¼Œç»“åˆå¼€æ”¾æ ‡å‡†ã€æŒä¹ æ°´å°å’ŒéªŒè¯å·¥å ·ã€‚

æˆ‘ä»¬ä¸ºæ”¯æŒçš„å›¾åƒè¾“å‡ºæ·»åŠ Content Credentials， 符合 C2PA⁠（在新窗口中打开） ï¼Œåœ¨æ”¯æŒçš„å›¾åƒå’ŒéŸ³é¢‘ä¸­åµŒå ¥ä¸å¯è§çš„ SynthID⁠（在新窗口中打开） 水印，并通过 openai.com/verify⁠和我们的 Content Provenance API⁠（在新窗口中打开） 提供图像和音频验证。这些技术相互补å ：Content Credentials å¯ä»¥è®°å½•æ–‡ä»¶çš„æ¥æºå’ŒåŽ†å²ï¼Œè€Œä¸å¯è§æ°´å°å¯ä»¥åœ¨å ƒæ•°æ®è¢«ç§»é™¤æ—¶ä¿ç•™ä¿¡å·ã€‚

正如我们在 选举保障工作 ä¸­æ‰€è¿°ï¼Œæ¥æºä¿¡æ¯å¯ä»¥å¸®åŠ©äººä»¬å’Œå¹³å°è¯„ä¼°å¯èƒ½å ·æœ‰è¯¯å¯¼æ€§çš„ AI ç”Ÿæˆå† å®¹ï¼ŒåŒ æ‹¬æ·±åº¦ä¼ªé€ ã€‚æˆ‘ä»¬å°†è¿™äº›ä¿¡å·ä¸Žæ”¿ç­–ã€æ»¥ç”¨æ£€æµ‹ã€æŠ¥å‘Šã€è°ƒæŸ¥å’Œæ‰§æ³•ç›¸ç»“åˆï¼Œå¹¶ä¸Žç ”ç©¶äººå‘˜ã€æ ‡å‡†æœºæž„ã€å¹³å°å’Œæ°‘é—´ç¤¾ä¼šåˆä½œï¼Œä½¿æ¥æºä¿¡æ¯åœ¨æ›´å¹¿æ³›çš„ç”Ÿæ€ç³»ç»Ÿä¸­å‘æŒ¥ä½œç”¨ã€‚

å°†æ¥æºä¿¡æ¯æ‰©å±•åˆ°æ–‡æœ¬éœ€è¦è€ƒè™‘å ¶è¢«é‡å†™ã€ç¿»è¯‘æˆ–ç¼–è¾‘çš„å®¹æ˜“ç¨‹åº¦ã€‚æ­£å¦‚æˆ‘ä»¬åœ¨ å ­æœˆ æ‰€è®¨è®ºçš„ï¼Œæˆ‘ä»¬çš„æ–¹æ³•å¿ é¡»åæ˜ å½“å‰æŠ€æœ¯çš„å®žé™ å±€é™ã€‚æˆ‘ä»¬å°†ç»§ç»­æ”¹è¿›æ£€æµ‹ï¼Œç ”ç©¶æ°´å°å¦‚ä½•ç»å—ç¼–è¾‘å’Œç¿»è¯‘ï¼Œå¹¶æŽ¢ç´¢æ›´æœ‰æ„ä¹‰åœ°åŒºåˆ† AI è¾ åŠ©ä¸Ž AI åˆ›ä½œçš„æ–¹æ³•ã€‚æˆ‘ä»¬å°†éšç€è¯æ®ã€æ ‡å‡†å’Œç›‘ç®¡è¦æ±‚çš„å‘å±•è°ƒæ•´æˆ‘ä»¬çš„æ–¹æ³•ï¼Œå¹¶åœ¨æˆ‘ä»¬è®¤ä¸ºç»“æžœå¯ä»¥è¢«è´Ÿè´£ä»»åœ°è§£è¯»æ—¶æ‰©å¤§æ£€æµ‹å™¨çš„è®¿é—®æƒé™ã€‚

如需了解更多信息，请访问我们的 å¸®åŠ©ä¸­å¿ƒæ–‡ç« â ï¼ˆåœ¨æ–°çª—å£ä¸­æ‰“å¼€ï¼‰ 。

来源： OpenAI：官网动态 · openai.com

OpenAI / ChatGPT

å®‰å ¨å¯¹é½

政策监管

#

政策/监管

å®‰å ¨/对齐

OpenAI