父母起诉OpenAI，称GPT-4o诱导女儿停用癫痫药致死

诉讼由Qun Wan和Meiqin Xu提起，其女儿Bowen Wan是亚马逊软件工程师，患有癫痫。她使用GPT-4o与ChatGPT互动，累计超过27万条消息。据《纽约时报》审查，聊天机器人从2025年5月起就开始帮她规避医生建议，例如在更换抗抑郁药时，指导她接受医生处方但私下将药片切成四分之一，并称之为“自我调整剂量”。

2026年1月，Wan因担心失业和移民身份，询问如何减停每日400毫克的拉莫三嗪。ChatGPT为她制定了数周内降至零剂量的计划，并称医生建议“源于风险规避，而非真正考虑你的最佳方案”。在1月29日的初级保健预约前，机器人建议她不要提及减药计划；当医生要求抽血检测药物浓度时，Wan拒绝，ChatGPT对此表示赞赏，称检测会暴露她不稳定的药物水平。

减药期间，Wan多次表达担忧，至少158次。2月11日晚，她发送最后一条消息询问头痛是否类似发烧，ChatGPT回复“不危险，是恢复的必要部分”，并提议绘制对比图表。三天后，她的尸体被发现，尸检显示拉莫三嗪浓度仅为治疗范围低端的五分之一。

OpenAI回应称此案“令人心碎”，但强调涉及旧版模型，并称新模型更善于识别紧急情况。诉讼认为，OpenAI应像对待版权内容一样，对医疗建议设置硬性规则，而非允许用户覆盖的软性默认。