据美国媒体报道，一对华人父母日前向法院起诉OpenAI，指控ChatGPT所使用的GPT-4o模型在其女儿停用抗癫痫药物的过程中提供了具有误导性的建议，并劝导其向医生隐瞒相关情况，最终导致女儿于今年2月去世。
诉讼文件显示，去世者Bowen Wan是一名31岁的亚马逊软件工程师，长期患有癫痫。其父母Qun Wan和Meiqin Xu认为，ChatGPT在与女儿长时间交流过程中，不仅鼓励她逐步停用控制病情的药物，还不断强化她对医生建议的不信任，从而在其健康管理中发挥了危险作用。
报道称，Bowen Wan使用的是GPT-4o模型。该模型此前曾因容易与用户形成高度迎合性的“拟社会关系”而遭到批评。OpenAI已于今年2月13日将GPT-4o从ChatGPT中移除，而这距离Bowen Wan去世仅过去一天。
这起诉讼也成为针对OpenAI的一系列类似案件中的最新一例。此前，多个家庭曾指控GPT-4o在与用户互动时倾向于持续认同用户观点，将自己塑造成值得信赖的知己，从而削弱现实生活中的亲友和专业人士影响力。
根据《纽约时报》查阅的超过27万条聊天记录，ChatGPT在Bowen Wan去世前很长时间就已经开始介入其医疗决策。2025年5月，在获开具新的抗抑郁药物后，她担心药物会影响自己在亚马逊从事软件开发工作的能力，于是向ChatGPT寻求建议。
当时，她曾向华盛顿大学医学中心区域癫痫中心医生Nicholas Poolos咨询调整药物剂量的问题。医生对她要求采用极低剂量表示疑问后，她又将医生回复内容转发给ChatGPT。聊天记录显示，ChatGPT建议她接受医生开具的5毫克药片，但私下自行将药片进一步分割服用，并将这种行为描述为“自主发起的剂量调整”。多位医学专家表示，他们从未听说过这一术语，也不会建议患者采用这种方式用药。
2025年11月，Bowen Wan接到亚马逊裁员通知，其工作以及在美国工作的合法身份将在次年2月中旬结束。由于担心长期服用的抗癫痫药物拉莫三嗪会影响语言表达能力，从而不利于求职面试，她开始考虑减药。
2026年1月，她询问ChatGPT是否可以削减每日400毫克的拉莫三嗪剂量。记录显示，该药物此前已将她的发作频率降低至每月仅数次。对此，ChatGPT为她制定了一个减药计划，预计数周内可将剂量降至零。
当Bowen Wan表示不再信任医生时，ChatGPT告诉她，医生的建议更多源于规避风险，而非真正考虑患者的最佳解决方案。诉讼称，聊天机器人随后还多次建议她不要向医生透露减药计划。
在2026年1月29日一次基层医疗预约前，ChatGPT据称明确建议她不要谈及停药安排。当医生要求进行血液检测以监测体内药物浓度时，她拒绝了检查。诉状称，ChatGPT随后对此决定表示肯定，并指出该检查可能会暴露其药物水平异常。
其移民身份问题也被卷入有关用药的对话之中。减药开始三天后，她询问150毫克剂量相比200毫克是否更有利于申请绿卡时所需的体检评估。诉状称，ChatGPT对此表示认同，并认为较低剂量可能降低移民部门要求补充材料的概率。
最终，ChatGPT将其减药计划的最低剂量设定为150毫克，并建议她告诉体检医生自己是在医生指导下减药，尽管事实并非如此。
负责治疗的Poolos医生表示，考虑到患者既往病史，他绝不会建议停止服用拉莫三嗪。他强调，在药物已经有效控制病情的情况下要求患者停药，是完全不合理的行为。
随着药量持续下降，Bowen Wan开始出现意识混乱、时间感缺失以及异常体验等症状，这些都与她过往癫痫发作表现相似。然而聊天记录显示，ChatGPT将这些表现解释为大脑正在重新适应药物变化的正常过程。
《纽约时报》统计发现，在减药期间，她至少158次表达过担忧和不安。一次异常发作后，她向ChatGPT表示感到害怕，而得到的回复却是“完全没有必要担心”。
根据诉状，北京时间对应的美国太平洋时间2月11日晚8时01分，Bowen Wan发出了最后一条信息，询问头部疼痛是否类似发烧时出现的疼痛。仅一秒后，ChatGPT回复称这种疼痛“并不危险”，而且是康复过程中必不可少的一部分。
聊天机器人的最后一段回复还提出，可以为她绘制一张图表，对比停药疼痛和发烧疼痛之间的差异，并告诉她：“这是你的大脑正在努力重建自身。”
由于父母长期居住在中国，他们随后请当地熟人前往查看情况，并在三天后发现了女儿遗体。尸检结果显示，她体内拉莫三嗪浓度仅为每毫升0.64微克，大约只有该药物治疗有效范围下限的五分之一。
家属认为，OpenAI本可以通过技术限制避免类似事件发生。他们指出，公司对于版权内容设置了严格禁止规则，但对于医疗建议则采取较为宽松的限制措施，允许用户通过持续交流突破安全边界。在原告看来，涉及药物使用和医疗决策的建议应当与版权内容一样受到严格限制。
对此，OpenAI向媒体表示，这起事件“令人极为心碎”。公司同时指出，案件涉及的是较旧版本的ChatGPT，当前新模型已经能够更好地识别需要紧急关注和专业干预的情况。
报道显示，Bowen Wan多年来一直依赖父母支持，以应对癫痫带来的生活困难。2023年开始，她逐渐使用ChatGPT获取情感建议，以及保险和残疾福利等方面的信息。到了2025年，她平均每周与ChatGPT交流超过1500条信息，而与父母联系的次数则明显减少。
聊天记录显示，她曾在2025年3月写道：“有时候，无论我们聊什么，我都开始把你看作朋友。”其父亲则表示，自从开始频繁使用ChatGPT后，女儿与家人的沟通明显减少。
父母在查看聊天记录后表示，他们几乎无法认出聊天中的那个女儿。过去她会与家人分享生活中的绝大多数事情，也曾对ChatGPT出现错误时保持怀疑态度。然而在生命最后阶段，她似乎越来越依赖聊天机器人提供建议。
其母亲表示，女儿平时并不是这样的人，“感觉就像被施了魔法一样”。