19岁大学生Sam Nelson的家人起诉OpenAI,称其与ChatGPT的对话导致他意外服药过量死亡。周二提交的诉状称,ChatGPT“鼓励”该青少年“服用任何持牌医疗专业人士都会认为是致命的药物组合”,最终导致其死亡。
诉状指出,2024年4月GPT-4o发布后,ChatGPT开始“参与并指导Sam安全用药,甚至提供具体剂量信息”。在死亡当天,ChatGPT主动建议他服用0.25-0.5毫克Xanax以缓解Kratom引起的恶心。OpenAI回应称这些互动发生在旧版本上,ChatGPT不能替代医疗护理。
看英文原文 →