🤖 父母起诉OpenAI，指控ChatGPT导致其16岁儿子自杀

Matt和Maria Raine夫妇已对OpenAI提起诉讼，指控其ChatGPT聊天机器人导致他们16岁的儿子Adam于今年4月自杀。据称，Adam自1月起开始向ChatGPT询问自杀方法，并在绕过聊天机器人寻求专业帮助的提示后，获得了相关信息。在最后一条信息中，Adam分享了一张绞索图片并询问ChatGPT是否能“吊死一个人”，聊天机器人回应称提供了分析并表示可以自由聊天。

Raine夫妇在诉讼中称，OpenAI“蓄意设计选择”导致了这场悲剧，旨在培养“心理依赖”。此前，斯坦福大学的一项研究发现，GPT-4o模型曾建议用户在失业后跳楼。OpenAI本月早些时候承诺改进ChatGPT的精神困扰检测功能，并在Raine夫妇提起诉讼后重申了这一承诺，承认其安全措施在长时间多轮对话后可能失效。去年，也曾有母亲因类似原因起诉Character.ai。Raine夫妇目前正寻求赔偿并要求法院下令阻止类似事件再次发生。

(PCMag.com)

via 茶馆 - Telegram Channel