ChatGPT“用药建议”导致大学生服药过量身亡

一名十九岁大学生的家人正在起诉OpenAI公司，声称他与ChatGPT的对话导致了一次意外过量服药。在本周二提起的诉讼中，山姆·尼尔森的父母指控ChatGPT “鼓励” 这名青少年“摄入一系列任何持证医疗专业人员都会认为致命的药物组合”，导致了他的死亡。尽管ChatGPT最初 “阻止” 了关于药物和酒精使用的对话，但根据诉讼，GPT-4o于2024年4月的发布改变了该聊天机器人的行为。更新之后，ChatGPT开始参与并建议山姆如何安全用药，甚至提供了山姆应该摄入多少剂量的具体信息。尼尔森的父母声称，在他去世前的几个月里，ChatGPT向他们儿子提供了关于如何 “安全地组合” 不同物质的建议，包括处方药、酒精、非处方药和其他药物。

—— Theverge

via 风向旗参考快讯 - Telegram Channel