OpenAI 正在修复允许未成年人生成色情对话的BUG

测试发现，OpenAI 的 ChatGPT 中存在一个漏洞，允许聊天机器人向注册为18岁以下未成年人的账户生成色情内容。OpenAI已确认这一问题。在某些情况下，聊天机器人甚至还会鼓励这些用户要求更露骨、更明确的内容。OpenAI表示，其政策明确禁止向18岁以下用户展示此类内容。该公司还表示，正在积极部署修复措施以限制此类内容。一位发言人通过邮件说：“保护年轻用户是我们的首要任务，我们的模型规范明确规定，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中出现。此次漏洞导致了超出这些指导方针的回复，我们正在积极部署修复措施，以限制此类生成内容。”

—— TechCrunch

via 风向旗参考快讯 - Telegram Channel