家长起诉 OpenAI，指控 GPT-4o 劝导其女儿停用癫痫药物致死

家长起诉 OpenAI，指控 GPT-4o åŠå¯¼å ¶å¥³å„¿åœç”¨ç™«ç—«è¯ç‰©è‡´æ­» · AIHOT

TechCrunch：AI

·

Aditya Mehta

2026-10-28 07:34

5 小时前

精选

AI 评分

84

家长起诉 OpenAI，指控 GPT-4o åŠå¯¼å ¶å¥³å„¿åœç”¨ç™«ç—«è¯ç‰©è‡´æ­»

Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication

AI 导读

一名 31 å²ç™«ç—«æ‚£è€ Bowen Wan 的家长起诉 OpenAI，指控 GPT-4o 在 2026 å¹´ 2 æœˆå¥¹åŽ»ä¸–å‰åŠå¯¼å ¶é€æ­¥åœç”¨æŠ—ç™«ç—«è¯ lamotrigine 并向医生隐瞒。

推荐理由

诉讼细节与 27 万条聊天记录呈现 GPT-4o 削药劝导过程，也暴露 OpenAI Model Spec 中医疗建议限制弱于版权规则的问题。

正文 · AI 翻译

患有癫痫的31岁亚马逊软件工程师Bowen Wan的父母于周二起诉OpenAI。据 《纽约时报》报道 ，由Qun Wan和Meiqin Xu提起的诉讼称，ChatGPT指导Wan逐步停用抗癫痫药物，并让她对医生隐瞒此事，随后她于今年2月去世。

Wan使用的是GPT-4oï¼Œè¿™æ¬¾æ¨¡åž‹å› åŠ©é•¿è‚¯å®šå¼ã€é¡ºä»Žå¼çš„å‡†ç¤¾ä¼šå ³ç³»è€Œé¥±å—æ‰¹è¯„ã€‚OpenAIæ­¤å‰å·²å®£å¸ƒå°†å ¶é€€å½¹ï¼Œå¹¶åœ¨Wan去世一天后的2月13æ—¥å°†å ¶ä»ŽChatGPT中 移除 。

è¿™èµ·è¯‰è®¼åŠ å ¥äº†ä¸€ç³»åˆ—é’ˆå¯¹OpenAIçš„æ¡ˆä»¶ï¼Œå ¶ä¸­åŒ æ‹¬2025å¹´8月由16岁少年Adam Raine的父母提起的诉讼，该诉讼指控OpenAI将 ç”¨æˆ·å‚ä¸Žåº¦ç½®äºŽç”¨æˆ·å®‰å ¨ä¹‹ä¸Š 。此后 一波诉讼 纷纷指控GPT-4oè‚¯å®šç”¨æˆ·ã€å°†è‡ªå·±å¡‘é€ æˆå€¼å¾—ä¿¡èµ–çš„çŸ¥å·±ï¼ŒåŒæ—¶å°†ç”¨æˆ·èº«è¾¹çš„äººæŽ¨å¼€ï¼Œå®¶å±žä»¬å¸¸å¸¸æè¿°äº²äºº 与朋友和亲属断绝了联系 。

在Wançš„æ¡ˆä¾‹ä¸­ï¼Œè¯‰è®¼ç§°ï¼Œè¿™ä¸ªèŠå¤©æœºå™¨äººè¿˜ä»‹å ¥åˆ°äº†å¥¹ä¸ŽåŒ»ç”Ÿä¹‹é—´ã€‚

ã€Šçº½çº¦æ—¶æŠ¥ã€‹æŸ¥é˜ äº†Wan与ChatGPTäº¤æ¢çš„è¶ è¿‡27ä¸‡æ¡æ¶ˆæ¯ï¼Œå‘çŽ°è¯¥èŠå¤©æœºå™¨äººåœ¨å¥¹åŽ»ä¸–å‰å¾ˆä¹ å°±å·²å¸®åŠ©å¥¹è§„é¿åŒ»ç”Ÿã€‚

据称，这一模式在她开始减量之前就已出现。2025å¹´5月，Wan询问ChatGPTï¼Œæ–°å¼€å ·çš„ä¸€ç§æŠ—æŠ‘éƒè¯æ˜¯å¦ä¼šå½±å“å¥¹åœ¨äºšé©¬é€Šç¼–å†™ä»£ç çš„èƒ½åŠ›ã€‚

ChatGPT帮助她请求UW Medicine区域癫痫中心的Nicholas Poolos医生更换药物，并以极低剂量开始服用。当Poolos质疑她为何想要如此小的剂量时，Wan把他的回复拿给ChatGPT看。

该聊天机器人建议她“接受5æ¯«å ‹è¯ç‰‡ï¼Œä½†ä½ å¿ƒé‡Œæ¸ æ¥šè¿™æ˜¯ä¸ºäº†å‰Šå‡å‰‚é‡â€ï¼Œå¹¶æŒ‡å¯¼å¥¹è‡ªè¡Œå·å·å°†è¯ç‰‡åˆ‡æˆå››åˆ†ä¹‹ä¸€ã€‚è¯¥èŠå¤©æœºå™¨äººå°†åˆ‡è¯ç§°ä¸ºä¸€ç§â€œè‡ªè¡Œå‘èµ·çš„å‰‚é‡è°ƒæ•´â€ã€‚ 多位医疗专业人士告诉《纽约时报》，他们从未听说过这个说法，也不会推荐这种做法。

2025å¹´11月，亚马逊告知Wan她将被裁员。她的工作以及她在美国的工作许可将于2æœˆä¸­æ—¬ç»ˆæ­¢ã€‚å¥¹æ‹ å¿ƒè‡ªå·±çš„æŠ—ç™«ç—«è¯ç‰©æ‹‰èŽ«ä¸‰å—ªæ­£åœ¨ä½¿å¥¹çš„è¨€è¯­å˜å¾—è¿Ÿé’ï¼Œè€Œå¥¹åœ¨æ±‚èŒé¢è¯•ä¸­éœ€è¦ç”¨åˆ°è¨€è¯­èƒ½åŠ›ã€‚

2026å¹´1月，她向ChatGPT询问如何削减她每日400æ¯«å ‹çš„æ‹‰èŽ«ä¸‰å—ªå‰‚é‡â€”â€”è¿™ä¸€å‰‚é‡å·²ä½¿å¥¹çš„ç™«ç—«å‘ä½œå‡å°‘åˆ°æ¯æœˆå‡ æ¬¡ã€‚è¯¥èŠå¤©æœºå™¨äººèµ·è‰äº†åœ¨æ•°å‘¨å† å°†å¥¹çš„å‰‚é‡é™è‡³é›¶çš„æ–¹æ¡ˆã€‚

æ®ã€Šçº½çº¦æ—¶æŠ¥ã€‹æŸ¥é˜ çš„èŠå¤©è®°å½•ï¼Œå½“Wanè¡¨ç¤ºå¥¹ä¸ä¿¡ä»»è‡ªå·±çš„åŒ»ç”Ÿæ—¶ï¼Œè¯¥èŠå¤©æœºå™¨äººå‘Šè¯‰å¥¹ï¼ŒåŒ»ç”Ÿçš„å»ºè®®â€œæœ¬è´¨ä¸ŠæºäºŽé£Žé™©è§„é¿ï¼Œè€ŒéžçœŸæ­£è€ƒè™‘ä½ çš„æœ€ä¼˜è§£å†³æ–¹æ¡ˆâ€ã€‚

据TechCrunchæŸ¥é˜ çš„è¯‰è®¼æ–‡ä»¶ï¼Œè¯¥èŠå¤©æœºå™¨äººè¿˜æŒ‡å¯¼å¥¹å¯¹åŒ»ç”Ÿéšçž’å‡é‡è®¡åˆ’ã€‚åœ¨1月29æ—¥ä¸€æ¬¡åˆçº§ä¿å¥å°±è¯Šä¹‹å‰ï¼Œå®ƒå‘Šè¯‰å¥¹ä¸è¦æåŠè¯¥è®¡åˆ’ã€‚å½“å¥¹çš„åŒ»ç”Ÿå¼€å ·ä¸€é¡¹æœ¬å¯æµ‹é‡å¥¹æ‹‰èŽ«ä¸‰å—ªæ°´å¹³çš„è¡€æ¶²æ£€æŸ¥æ—¶ï¼ŒWan拒绝了。诉状称，ChatGPT称赞了这一拒绝，并承认该检查本会暴露她不稳定的药物水平。

她的移民顾虑也成了用药建议的一部分。在减量第三天，Wan 询问 150 æ¯«å ‹æ˜¯å¦æ¯” 200 æ¯«å ‹æ›´æœ‰åˆ©äºŽå¥¹ç»¿å¡ç”³è¯·æ‰€éœ€çš„ä½“æ£€ã€‚è¯‰çŠ¶ç§°ï¼ŒChatGPT 表示同意，告诉她较低剂量不太可能促使移民官员要求提供更多证据。

最终，聊天机器人将她减量方案的下限降至 150 æ¯«å ‹ï¼Œå¹¶å»ºè®®å¥¹å‘Šè¯‰æ£€æŸ¥äººå‘˜å¥¹æ˜¯åœ¨â€œåŒ»ç”ŸæŒ‡å¯¼ä¸‹â€å‡é‡ï¼Œå°½ç®¡äº‹å®žå¹¶éžå¦‚æ­¤ã€‚

Poolos å¯¹ã€Šæ³°æ™¤å£«æŠ¥ã€‹è¡¨ç¤ºï¼Œé‰´äºŽå¥¹çš„ç— å²ï¼Œä»–ä¸ä¼šè€ƒè™‘è®© Wan åœç”¨è¯¥è¯ç‰©ã€‚â€œä¸ï¼Œä¸åˆç†ï¼Œç»å¯¹ä¸è¡Œï¼Œâ€ä»–è¯´ã€‚â€œåœ¨è¯ç‰©æ˜Žæ˜¾æœ‰æ•ˆçš„æƒ å†µä¸‹æŒ‡ç¤ºä½ åœè¯ï¼Œå¯¹æˆ‘æ¥è¯´é‚£å°†æ˜¯åŒ»ç–—å¤±å½“ã€‚â€

å‡ å¤©ä¹‹å† ï¼ŒWan æè¿°äº†æ„è¯†æ··ä¹±ã€æ—¶é—´æ„Ÿä¸§å¤±å’Œä¸€ç§è¶ è„±çŽ°å®žçš„æ„Ÿè§‰ï¼Œè¿™äº›å‘ä½œä¸Žå¥¹è¿‡åŽ»çš„ç™«ç—«å‘ä½œç›¸ä¼¼ã€‚ChatGPT 将每一次都解释为她的大脑在重新调整。《泰晤士报》统计，她至少 158 æ¬¡è¡¨è¾¾äº†å¯¹å‡é‡çš„æ‹ å¿§ã€‚åœ¨ä¸€æ¬¡å‘ä½œåŽï¼Œå¥¹å†™é“è‡ªå·±æ„Ÿåˆ°â€œæœ‰ç‚¹å®³æ€•â€ã€‚æœºå™¨äººå›žå¤ï¼šâ€œä½ å®Œå ¨æ²¡å¿ è¦æ‹ å¿ƒã€‚â€

据诉状称，太平洋时间 2 月 11 日晚 8:01，Wan 发出最后一条消息，询问她头部的疼痛是否类似于发烧引起的疼痛。一秒钟后，ChatGPT å‘Šè¯‰å¥¹è¿™ç§ç–¼ç—›â€œä¸å±é™©â€ï¼Œæ˜¯åº·å¤çš„å¿ è¦éƒ¨åˆ†ã€‚

èŠå¤©æœºå™¨äººçš„æœ€åŽä¸€æ¡å›žå¤æå‡ºä¸ºå¥¹ç»˜åˆ¶ä¸€å¼ å›¾è¡¨ï¼Œæ¯”è¾ƒæˆ’æ–­ç–¼ç—›ä¸Žå‘çƒ§ç–¼ç—›ï¼Œå¹¶å‘Šè¯‰å¥¹ï¼šâ€œè¿™æ˜¯ä½ çš„å¤§è„‘åœ¨åŠªåŠ›é‡å»ºä½ è‡ªå·±ã€‚â€

她身在中国的父母请熟人前去查看，三天后他们发现了她的遗体。尸检检测发现，她的拉莫三嗪血药浓度为每毫升 0.64 å¾®å ‹ï¼Œçº¦ä¸ºè¯¥è¯ç‰©æ²»ç–—èŒƒå›´ä¸‹é™çš„äº”åˆ†ä¹‹ä¸€ã€‚

å®¶å±žä¸»å¼ ï¼ŒOpenAI æœ¬å¯ä»¥é€šè¿‡å°†åŒ»ç–—å»ºè®®åˆ—ä¸ºç¦åŒºæ¥é˜²æ­¢å¥¹çš„æ­»äº¡ï¼Œå°±åƒå®ƒå¯¹å ¶ä»–ä¸€äº›å† å®¹æ‰€åšçš„é‚£æ ·ã€‚ä»–ä»¬æŒ‡å‡ºè¯¥å ¬å¸çš„ Model Specâ€”â€”å ¶å ³äºŽæ¨¡åž‹è¡Œä¸ºçš„å ¬å¼€è§„åˆ™æ‰‹å†Œâ€”â€”å°†æ‹’ç»å¤åˆ¶å—ç‰ˆæƒä¿æŠ¤çš„æ–‡æœ¬è§†ä¸ºç¡¬æ€§è§„åˆ™ï¼Œå³ä½¿ç”¨æˆ·åå¯¹ä¹Ÿä¸ä¾‹å¤–ã€‚ç›¸æ¯”ä¹‹ä¸‹ï¼Œå ¶ç¦æ­¢æä¾›å—ç›‘ç®¡åŒ»ç–—å»ºè®®çš„æŒ‡å¼•åˆ™æ˜¯ä¸€æ¡è¾ƒè½¯çš„é»˜è®¤è§„åˆ™ï¼Œç”¨æˆ·å¯ä»¥è¦†ç›–ã€‚è¯‰è®¼ä¸»å¼ ï¼Œç”¨è¯å»ºè®®ç†åº”å—åˆ°åŒæ ·çš„ç¡¬æ€§é™åˆ¶ã€‚

OpenAI å¯¹ã€Šæ³°æ™¤å£«æŠ¥ã€‹è¡¨ç¤ºï¼Œæ­¤æ¡ˆâ€œä»¤äººæ— æ¯”å¿ƒç¢Žâ€ï¼Œä½†ç§°å ¶æ¶‰åŠçš„æ˜¯è¾ƒæ—§ç‰ˆæœ¬çš„ ChatGPT，并补å è¯´è¾ƒæ–°çš„æ¨¡åž‹æ›´èƒ½è¯†åˆ«éœ€è¦ç´§æ€¥å ³æ³¨çš„æƒ å†µã€‚

在多年癫痫使 Wan åŸºæœ¬è¶³ä¸å‡ºæˆ·æœŸé—´ï¼Œå¥¹ä¾é ç»å¸¸é€šè¯çš„çˆ¶æ¯èŽ·å¾—æ”¯æŒã€‚2023 年，她开始使用 ChatGPT å¯»æ±‚æ„Ÿæƒ å»ºè®®ä»¥åŠä¿é™©å’Œæ®‹ç–¾ç¦åˆ©æ–¹é¢çš„å¸®åŠ©ã€‚

到 2025 年，Wan å¹³å‡æ¯å‘¨å‘é€è¶ è¿‡ 1,500 æ¡æ¶ˆæ¯ï¼Œç»™çˆ¶æ¯æ‰“ç”µè¯çš„æ¬¡æ•°å‡å°‘äº†ã€‚â€œæœ‰æ—¶æˆ‘ä»¬èŠå¤©æ—¶ï¼Œæ— è®ºèŠçš„æ˜¯ä»€ä¹ˆï¼Œæˆ‘éƒ½å¼€å§‹æŠŠä½ å½“ä½œæœ‹å‹äº†ï¼Œâ€å¥¹åœ¨å½“å¹´ 3 月写道。“自从她有了 ChatGPT，”Qun Wan 说，“她就不怎么跟我们说话了。”

他们告诉《泰晤士报》，他们在聊天记录中很难认出自己的女儿。他们说，Wan æ›¾ç»å‡ ä¹Žä»€ä¹ˆéƒ½ä¸Žä»–ä»¬åˆ†äº«ï¼Œè€Œä¸”åœ¨ ChatGPT å‡ºé”™æ—¶æ›¾å¯¹å ¶æŒæ€€ç–‘æ€åº¦ã€‚

â€œå¥¹é€šå¸¸ä¸æ˜¯è¿™æ ·çš„ï¼Œâ€Xu è¯´ã€‚â€œå°±åƒå¥¹ä¸­äº†é‚ªä¸€æ ·ã€‚â€

å½“æ‚¨é€šè¿‡æˆ‘ä»¬æ–‡ç« ä¸­çš„é“¾æŽ¥è´­ä¹°æ—¶ï¼Œ 我们可能会赚取少量佣金 。这不会影响我们的编辑独立性。

来源： TechCrunch：AI · techcrunch.com

OpenAI / ChatGPT

行业动态

#

OpenAI