🤖 OpenAI升级ChatGPT危机应对，涉及伤害他人将转人工复核，必要时可移交执法

OpenAI 8 月 26 日发布博文称，随着 ChatGPT 全球用户增长，越来越多用户将其用于人生建议、指导和支持等深度个人决策。公司发现部分用户在严重心理和情感困扰中使用 ChatGPT，因此正持续改进模型识别和响应心理困扰迹象的能力。

OpenAI 表示已为 ChatGPT 构建多层安全防护措施，包括：识别并以同理心回应用户情绪，当用户表达自伤意图时引导其寻求专业帮助；在美国推荐 988 危机热线，在英国推荐撒玛利亚会；检测到用户计划伤害他人时将对话转交人工审查。公司还与 30 多个国家的 90 多名医生合作，并成立心理健康专家咨询小组。OpenAI 承认系统在长时间对话中的安全防护可能降低，正在加强相关缓解措施。

OpenAI

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel