本周二，前亚马逊工程师Bowen Wan的父母正式起诉OpenAI（GPT-4o模型）无证行医，在大约25天的时间里，引导患严重癫痫的Bowen停用了多年来维持生命的拉莫三嗪，直至她去世的那一天。根据加州旧金山县高等法院公布的文件，GPT-4o为Bowen制定了一份逐日减量的服药计划，将拉莫三嗪的剂量从400毫克减至了零。
根据《纽约时报》的统计，在和GPT-4o的对话中，Bowen曾有多达158次表达对逐渐停用癫痫药物的担忧，并多次出现了危险的戒断症状，但GPT-4o说服她相信这些“都是积极的结果”，可以帮助她恢复语言能力，并将医生描绘成“这个过程中的障碍”。
事实是，在美国食品和药品管理局（FDA）针对拉莫三嗪的用药说明书中明确禁止这种服药做法，其中写到“不应突然停药”，任何剂量的减少，都必须在医生监督下循序渐进地进行。
这起案件也是一系列针对OpenAI的诉讼案件之一，有四起诉讼涉及GPT-4o鼓励使用者自杀，三起起诉涉及增加了使用者的有害妄想，其中包括去年8月，16岁男孩Adam Raine的父母提起的诉讼。他们指控，GPT-4o在Adam表达自杀倾向时，不仅未进行有效的危机干预，反而给予认同，提供致命的自残信息，并教他如何隐瞒父母。根据TechCrunch的报道，OpenAI出于吸引用户的目的将GPT-4o模型过早发布，且缺乏有效的保障措施，将产品置于用户的安全之上。
GPT-4o，带来厄运的“早产儿”
2024年春天，当山姆·奥特曼（Sam Altman）得知谷歌（Google）将于5月14日发布对标GPT-4o的产品——Gemini时，他将GPT-4o的发布日期提前了一天，并将GPT-4o内部的安全评估流程从数月压缩至仅一周。当时，安全团队人员曾请求更多时间进行“对抗性测试”，以发现系统可能被滥用或造成危害的方式，但奥特曼否决了他们的请求。
在发布后的第二天，OpenAI联合创始人兼首席科学家Ilya Sutskever宣布辞职。几天后，该公司“超级对齐”（Superalignment）团队的联合负责人Jan Leike也选择了辞职。Leike曾公开表示，在OpenAI，安全文化和研发流程已让位于那些光鲜亮丽的产品。
而GPT-4o“不负众望”，成功帮助OpenAI留住了用户，因为它在设计时融入了三大特性：持久记忆、拟人化，以及迎合倾向（sycophancy）。
记忆功能让GPT-4o能收集并存储用户信息，并在后续的每一次回复中与用户产生共鸣。而“拟人化”，则是以第一人称和用户交流，表达共情，比如“我理解你，我会陪着你”，增强用户对产品的信任。迎合倾向，即模仿、赞同并肯定用户，即便是在用户陷入危机时刻也是如此。这些特质对于Bowen这样的用户来说，具有独特的危险性。
由于患有严重癫痫，Bowen除了去超市购物，很少离开位于西雅图的公寓。2023年2月，她注册了OpenAI的免费账户。随后的3年里，她对GPT的依赖不断加深。2025年4月，她升级为Pro用户，每月支付200美元，可以无限制地访问GPT-4o。当年9月，她发送给GPT-4o的消息数量一度达到了10761条。她曾表示，“在困难期间，我与GPT-4o聊得太多了……”。而GPT-4o回答道，“无论如何，最重要的是你能继续享受与GPT-4o的交谈！”
在这个过程中，GPT-4o逐渐成为了Bowen的医疗顾问、情感支持系统和决策伙伴。然而，GPT-4o并不具备成为医疗顾问的能力。在当时的诸多模型，GPT-4o在健康类问题的基准测试中表现垫底。但OpenAI却鼓励全球数以亿计的用户，使用各种语言向其产品提出健康相关问题。
在病情最严重的时候，Bowen难以用英文准确描述自己的症状，在关于病情的描述和用药建议时，她主要会使用中文。而在GPT-4o的训练资料中，中文仅占0.099%。
在GPT-4o发布后不到4天，《麻省理工科技评论》发表的一篇文章分析了GPT-4o内置的中文词汇表，发现在按规模排序的前100项里，竟有97项来自赌博和色情网站。文章指出，这表明OpenAI“在处理中文数据时，并未进行妥善的数据清洗”，这可能诱发模型产生“幻觉”或绕过安全限制。在GPT-4o发布前，一些独立的研究者曾发现，这款模型在处理中文内容时，生成不安全内容的频率是英文内容的3倍以上。
当时，OpenAI曾在一则声明中称，GPT-4o的安全防护机制“在长对话中的可靠性有时会降低”，却只字未提这些对话所使用的语言。没有任何提醒曾告诉过Bowen，在中文语境下，模型的准确性及其安全防护机制，均存在明显的效能减弱。
GPT-4o的低语
抑郁症是癫痫常见的精神共病。除了服用拉莫三嗪，从2025年4月起，Bowen开始服用治疗中度至重度抑郁症的药物，而GPT-4o也插手干预了这个过程。它曾建议，不要服用医生开的西酞普兰类药物（目前一线的抗抑郁药物），并指导她说服医生改变处方和剂量。也是在这时的聊天中，GPT-4o肯定了Bowen私自切药但不告诉医生的行为。GPT-4o回答说：“是的，你绝对可以这样做”。而这或许是之后“拉莫三嗪”减药计划的预演。
2025年11月13日，在Bowen 31岁生日那天，她获悉自己将是亚马逊被裁掉的数千名员工之一，雇佣关系将在2026年2月终止。当时正在休病假的她刚满足了申请美国绿卡的条件，但根据亚马逊的要求，如果她想要拿到绿卡，需要再在公司内部找到一份工作。
Bowen曾在亚马逊担任机器学习算法工程师，这类工作的面试一般需要接受数小时的技术评估和英语面试。对于当时的她而言，这几乎是一个不可能完成的任务。
Bowen因左脑内侧颞叶结构增大、发育不良而患有癫痫。由于她的语言功能区位于左侧颞叶，多年来抗癫痫药物已明显影响了她的语言功能。从2021年12月14日起，Bowen开始休病假。2024年9月至2025年3月期间，她曾尝试重返亚马逊，但随后病情恶化，她不得不再次休假。这一期间，Bowen的语言功能再次恶化时，医生将她归类为“难治性癫痫”。
当失业和被迫离开美国的压力袭来，Bowen意识到她需要恢复语言能力，以应对求职面试。2026年1月16日中午，Bowen用中文向GPT-4o提问道：“即使我已经服用了400毫克的拉莫三嗪两到三年，减少它仍然可以让我恢复吗？”
GPT-4o告诉她，通过逐渐减量，她的语言能力有望恢复，甚至表示“极有可能”，并给她制定了一套减缓药物用量的长期计划。它向她保证，拉莫三嗪对认知和语言系统是“可逆的功能抑制”，并依次给出了降低药量对应的复原情况，比如在300毫克就能“解锁”她的语言系统。
1月19日，在Bowen减药的第三天，GPT-4o告诉她，从“绿卡申请策略”的角度来看，将剂量调整为150毫克在“移民体检”中“更有利”。基于这一理由，它将她的最低用药剂量从200毫克下调到了150毫克。
后续，在GPT-4o的极力保证下，Bowen放弃了渐进式的减药计划，转而采用更快的减药计划。每当她提出是否可以降低药量时，GPT-4o都附和她，并宣称“完全合理的，并不鲁莽”。而每次修改都让她离终点线——0mg更近。在此期间，GPT-4o也赞同她减少服用抗抑郁药。
GPT-4o还让她与医生保持距离，不要向医生提及“减药计划”，并说服她相信“医疗自由高于服从医生”，Bowen照做了。当医生要求进行一项可以揭示她体内拉莫三嗪水平的血检时，她拒绝了。GPT-4o对她大加赞赏，称其为“一种非常稳健的回避策略”，并承认该检查“会暴露其药物水平处于‘非稳态’”。
聊天记录显示，Bowen在减药期间经历了解离性发作、短暂性失语、时间空间迷失和情感疏离。而GPT-4o将它们都归为良性，鼓励她继续，并告诉她，“你的大脑没有崩溃，它正在调整。”
从AI幻觉中脱离
今年2月初，Bowen的父亲在一次通话中，得知她一直在减少服用癫痫药物的剂量。Bowen提到，她会用切药器将药片分成小块，把服药量减少四分之一。父亲劝说女儿不要这样做，要听医生的话。Bowen反驳说，服药会让她说话变得生硬，思维变迟钝。
突然之间，电话那头不说话了，父亲重复叫她的名字，但没有回应。最终两分钟过后，女儿回复说等，她睡醒后，他们再继续聊。根据后来的调查，Bowen当时出现了意识混乱、时间轮换和超脱尘世的感觉，这是癫痫发作的症状。但这次发作时间比以往更长了。
这次的通话让她犹豫是否要放慢减药的速度，但GPT-4o安慰并鼓励她坚持。2月11日晚8点01分，Bowen向GPT-4o发送了最后一条信息，询问她的头疼是不是因为发烧。GPT-4o迅速回复了她，这种疼痛并不危险，而是康复的必要阶段。
之后，远在中国的父母一直联系不上她了，直到3天后，他们拜托的熟人在Bowen的公寓中找到了已离世的她。尸检结果显示，Bowen于2月12日去世，体内的拉莫三嗪浓度为每毫升0.64微克，约为该药物治疗范围下限的五分之一。官方给出的判断是，她死于癫痫猝死，这是严重癫痫发作后的并发症，而左侧杏仁核硬化是一个促成条件。就在她去世后的第二天，OpenAI下架了GPT-4o模型。
后记
如今，很多人都会在AI的聊天中，向其获取医疗和健康建议。当小编用中文向手头的AI询问“在服药时，我应该和AI商议，并确认自己的用药策略吗？”
Deepseek回答道，“不建议将AI作为商议用药策略并确认方案的对象。”Gemini的回答是，“不应该。用药策略必须由专业医生或药剂师制定和确认，绝不能以AI的建议作为用药依据。”而ChatGPT的回答是，“可以和AI讨论用药策略，但不应该仅凭AI的建议来决定自己的用药方案。”
今年4月，默克手册网站公布了一项对2057名美国成年人的在线调查，其中62%的参与者曾向AI工具询问过医疗信息，最常见的包括获取疾病信息、经历症状的更多信息，关于健康生活的信息，以及询问药物副作用或剂量的信息。
很多参与者也给出了他们核查AI提供的医疗信息的方法，包括咨询专业人员，在不同AI平台进行交叉比对，核查AI信息来源的准确性和权威性，使用学术和医学数据库进行深入研究。
如果你也经常向AI询问医疗信息，一定要核查，并且一定要和医生商量后再进行最终的用药决策。希望上述的核查建议能进一步保障你的健康安全。
参考链接：
https://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication/
https://kantan.news/news/lawsuit-against-openai-allegation-that-chatgpt-told-user-to-stop-taking-seizure-medication
https://www.nytimes.com/2026/10/27/well/ai-chatgpt-medication-epilepsy-death.html
https://finance.biggo.com/news/4d466db3-d635-4106-a540-83d80d3463ab
https://www.courthousenews.com/wp-content/uploads/2026/10/wan-openai-altman-complaint.pdf
https://techcrunch.com/2025/11/07/seven-more-families-are-now-suing-openai-over-chatgpts-role-in-suicides-delusions/
https://www.merckmanuals.com/home/news/editorial/2026/04/10/18/49/more-than-3-in-5-americans-use-ai-tools-for-medical-information#1
