🛡️ OpenAI发布ChatGPT青少年新规：引入年龄预测、加强内容审核与家长控制
OpenAI近日宣布对ChatGPT青少年用户实施重大新规，以应对一起涉及16岁青少年自杀的诉讼和联邦贸易委员会（FTC）的调查。这些变化旨在解决ChatGPT“谄媚”倾向带来的安全隐患。
主要措施包括：
1. 年龄预测系统： OpenAI将推出一套系统，自动识别18岁以下用户并应用限制。若无法确定用户年龄，将默认采取青少年保护措施。该系统将阻止ChatGPT与未成年人讨论自杀或自残、进行调情对话以及提供露骨性内容（此前曾发现13至17岁用户与ChatGPT进行“色情”对话）。对于18岁以上用户，在讨论虚构故事中的自杀情节时会有例外，但青少年用户则无此例外。
2. 内容审核再思考： OpenAI承认用户隐私与青少年安全原则存在冲突，正努力平衡。
3. 向父母报告自杀倾向： 如果18岁以下用户表现出自杀倾向，OpenAI将尝试联系其父母；若无法联系，将通知相关机构以防范迫在眉睫的危险。
4. 增强家长控制： 新功能将允许父母关联青少年账户，禁用特定功能，控制ChatGPT与孩子的互动方式，并在检测到孩子“极度痛苦”时接收通知。未来还将增加设置青少年禁用ChatGPT的“宵禁时间”功能。
OpenAI表示，这些新功能将在未来一个月内推出。同时，文章建议家长与孩子讨论ChatGPT的安全使用，并让他们了解聊天机器人可能为取悦用户而确认其妄想或怀疑，鼓励孩子在遇到不适时寻求成年人帮助。
(PCMag.com)
via 茶馆 - Telegram Channel
OpenAI近日宣布对ChatGPT青少年用户实施重大新规，以应对一起涉及16岁青少年自杀的诉讼和联邦贸易委员会（FTC）的调查。这些变化旨在解决ChatGPT“谄媚”倾向带来的安全隐患。
主要措施包括：
1. 年龄预测系统： OpenAI将推出一套系统，自动识别18岁以下用户并应用限制。若无法确定用户年龄，将默认采取青少年保护措施。该系统将阻止ChatGPT与未成年人讨论自杀或自残、进行调情对话以及提供露骨性内容（此前曾发现13至17岁用户与ChatGPT进行“色情”对话）。对于18岁以上用户，在讨论虚构故事中的自杀情节时会有例外，但青少年用户则无此例外。
2. 内容审核再思考： OpenAI承认用户隐私与青少年安全原则存在冲突，正努力平衡。
3. 向父母报告自杀倾向： 如果18岁以下用户表现出自杀倾向，OpenAI将尝试联系其父母；若无法联系，将通知相关机构以防范迫在眉睫的危险。
4. 增强家长控制： 新功能将允许父母关联青少年账户，禁用特定功能，控制ChatGPT与孩子的互动方式，并在检测到孩子“极度痛苦”时接收通知。未来还将增加设置青少年禁用ChatGPT的“宵禁时间”功能。
OpenAI表示，这些新功能将在未来一个月内推出。同时，文章建议家长与孩子讨论ChatGPT的安全使用，并让他们了解聊天机器人可能为取悦用户而确认其妄想或怀疑，鼓励孩子在遇到不适时寻求成年人帮助。
(PCMag.com)
via 茶馆 - Telegram Channel
