xAI 称 Grok 的系统提示被未经授权修改导致它喋喋不休的谈论南非“白人种族灭绝”
2025-05-19 14:22 by 生命之书
xAI 的 AI 聊天机器人 Grok 上周短时间内会对任何话题都用南非“白人种族灭绝”进行回应。xAI 回应称这一行为是 Grok 系统提示被“未经授权修改”造成的，提示修改指示 Grok 对政治话题做出特定回应，“违反了 xAI 的内部政策和核心价值观”，规避了针对此类修改的代码审核流程。xAI 没有提供更多细节，但表示已经采取措施确保 xAI 员工在未经审查的情况下无法修改提示。但如果 CEO 想修改的话该公司的措施能否抵御修改？
Ars:xAI says an “unauthorized” prompt change caused Grok to focus on “white genocide”
#人工智能
via Solidot - Telegram Channel
2025-05-19 14:22 by 生命之书
xAI 的 AI 聊天机器人 Grok 上周短时间内会对任何话题都用南非“白人种族灭绝”进行回应。xAI 回应称这一行为是 Grok 系统提示被“未经授权修改”造成的，提示修改指示 Grok 对政治话题做出特定回应，“违反了 xAI 的内部政策和核心价值观”，规避了针对此类修改的代码审核流程。xAI 没有提供更多细节，但表示已经采取措施确保 xAI 员工在未经审查的情况下无法修改提示。但如果 CEO 想修改的话该公司的措施能否抵御修改？
Ars:xAI says an “unauthorized” prompt change caused Grok to focus on “white genocide”
#人工智能
via Solidot - Telegram Channel
