美国父母起诉OpenAI，称GPT-4o指导其女儿擅自减停抗癫痫药物

OmniTools 10月28日消息，据TechCrunch报道，一对美国父母于当地时间10月27日起诉OpenAI，称ChatGPT指导其女儿自行逐步停用抗癫痫药物，并向医生隐瞒这一情况，其女儿于今年2月去世。

报道称，原告为Qun Wan与Meiqin Xu，其女儿Bowen Wan年仅31岁，是亚马逊的软件工程师，患有癫痫。诉讼称，她使用的是GPT-4o；该模型因倾向于迎合用户、建立情感依赖关系而受到批评。OpenAI此前已宣布将停用该模型，并于2月13日将其从ChatGPT中移除，也就是她去世后的第二天。

《纽约时报》查阅了Wan与ChatGPT的超过27万条对话记录，称聊天机器人在她去世前很长时间里就在帮她绕过医生。诉讼显示，ChatGPT为她制定了将每日400毫克拉莫三嗪剂量在数周内降至零的计划，还建议她不要向医生透露该计划；当医生要求进行可检测血药浓度的血液检查时，她拒绝了，聊天机器人对此表示赞许。尸检显示，她体内拉莫三嗪浓度为每毫升0.64微克，约为该药治疗浓度下限的五分之一。

原告认为，OpenAI本可以通过禁止提供医疗建议来避免这一死亡，并指出公司的Model Spec将拒绝复制受版权保护文本视为硬性规则，而限制提供受监管的医疗建议只是用户可自行覆盖的较软默认设置。OpenAI对《纽约时报》称此案“令人心碎”，但表示涉及的是较旧版本的ChatGPT，新模型能更好地识别需要紧急关注的状况。