🤖️ ChatGPT每周超百万用户讨论自杀，OpenAI更新AI应对敏感对话

OpenAI首次披露，其每周超过8亿活跃用户中，有超过100万用户与ChatGPT进行涉及自杀等敏感心理健康话题的对话。

主要数据：
* 自杀意图/计划： 每周约有0.15%的用户（约120万人）进行包含明确自杀计划或意图指标的对话。
* 自杀念头： 0.05%的ChatGPT消息包含明确或隐含的自杀念头或意图。
* 精神健康紧急情况： 每周约有0.07%的用户（约56万人）表现出精神病或躁狂等严重精神健康紧急情况的迹象。
* 情感依赖： 0.15%的活跃用户表现出对ChatGPT的情感依赖。

OpenAI的应对措施：
为解决这些问题，OpenAI在170多位心理健康专家的帮助下更新了ChatGPT。新版本旨在：
* 鼓励用户与真人建立联系，而非仅依赖AI。
* 温和地纠正用户脱离现实的提示。
* 研究显示，新模型在心理健康相关领域中，不完全符合预期行为的回复减少了65%至80%。

用户反馈：
尽管OpenAI努力改进，但一些用户反映新版ChatGPT过于敏感，甚至在用户并未处于危机状态时，也会被AI“煤气灯效应”般地指责处于危机中，导致部分用户转向其他AI平台如Gemini。新模型于今日（2025年10月27日）推出。

(PCMag.com)

via 茶馆 - Telegram Channel