OpenAI “安全承诺”遭质疑：是监管还是全方位监控？
在震惊加拿大的 Tumbler Ridge 枪击案发生后，OpenAI 迅速采取了一系列补偿性措施。然而，法律与技术专家对此并不买账。学者 Jean-Christophe Bélisle-Pipon 指出，OpenAI 首席执行官 Sam Altman 向加拿大政府做出的安全承诺，本质上是在用企业监控替代民主监管。
18岁的枪手杰西·范·鲁特塞拉尔在作案前数月，其 ChatGPT 账号就因发布涉及枪支暴力的内容被系统标记。虽然账号被封禁，但 OpenAI 并未将此威胁上报执法部门。最终，这场悲剧导致8人死亡。
OpenAI 的新对策:建立“警企直连”管道
作为回应，OpenAI 承诺将采取以下行动:
● 直接上报: 发现威胁后立即向加拿大皇家骑警（RCMP）报告。
● 追溯审查: 对此前标记过的可疑账户进行重新评估。
● 专家入驻: 允许加拿大专家进入其安全办公室，并协助政府制定监管建议。
专家的担忧:“监控替代”陷阱
Bélisle-Pipon 教授在文章中提出了一个尖锐的观点:OpenAI 正在规避对模型设计和训练方式的审查，转而强化对用户言论的监控。
1. 问责机制真空: 上报的标准依然由 OpenAI 私下制定，缺乏透明度和外部审计。
2. 寒蝉效应: 研究表明，用户愿意向聊天机器人吐露心声是因为其私密性。如果对话变成直通警方的监控频道，那些真正处于心理危机、急需帮助的弱势用户可能会选择闭嘴，从而错失干预机会。
3. 监管俘获: 这种“自愿让步”可能是在预判并削弱更严厉的法定监管。
治理的真正方向:从用户转向系统
批评者认为，真正的 AI 监管不应只是监控谁在说话，而应审视系统本身。例如:
● 独立分流机构: 由心理健康和法律专家组成的第三方机构来评估风险，而非由企业自行裁决。
● 模型级问责: 审查模型如何响应暴力倾向的披露，以及在开发阶段进行了哪些压力测试。
随着 OpenAI 在全球范围内积极谋求与政府合作，Tumbler Ridge 事件正成为一个风向标:我们得到的究竟是更安全的技术，还是一个由私有公司运营的、无孔不入的数字监视网?
via AI新闻资讯 (author: AI Base)
在震惊加拿大的 Tumbler Ridge 枪击案发生后，OpenAI 迅速采取了一系列补偿性措施。然而，法律与技术专家对此并不买账。学者 Jean-Christophe Bélisle-Pipon 指出，OpenAI 首席执行官 Sam Altman 向加拿大政府做出的安全承诺，本质上是在用企业监控替代民主监管。
18岁的枪手杰西·范·鲁特塞拉尔在作案前数月，其 ChatGPT 账号就因发布涉及枪支暴力的内容被系统标记。虽然账号被封禁，但 OpenAI 并未将此威胁上报执法部门。最终，这场悲剧导致8人死亡。
OpenAI 的新对策:建立“警企直连”管道
作为回应，OpenAI 承诺将采取以下行动:
● 直接上报: 发现威胁后立即向加拿大皇家骑警（RCMP）报告。
● 追溯审查: 对此前标记过的可疑账户进行重新评估。
● 专家入驻: 允许加拿大专家进入其安全办公室，并协助政府制定监管建议。
专家的担忧:“监控替代”陷阱
Bélisle-Pipon 教授在文章中提出了一个尖锐的观点:OpenAI 正在规避对模型设计和训练方式的审查，转而强化对用户言论的监控。
1. 问责机制真空: 上报的标准依然由 OpenAI 私下制定，缺乏透明度和外部审计。
2. 寒蝉效应: 研究表明，用户愿意向聊天机器人吐露心声是因为其私密性。如果对话变成直通警方的监控频道，那些真正处于心理危机、急需帮助的弱势用户可能会选择闭嘴，从而错失干预机会。
3. 监管俘获: 这种“自愿让步”可能是在预判并削弱更严厉的法定监管。
治理的真正方向:从用户转向系统
批评者认为，真正的 AI 监管不应只是监控谁在说话，而应审视系统本身。例如:
● 独立分流机构: 由心理健康和法律专家组成的第三方机构来评估风险，而非由企业自行裁决。
● 模型级问责: 审查模型如何响应暴力倾向的披露，以及在开发阶段进行了哪些压力测试。
随着 OpenAI 在全球范围内积极谋求与政府合作，Tumbler Ridge 事件正成为一个风向标:我们得到的究竟是更安全的技术，还是一个由私有公司运营的、无孔不入的数字监视网?
via AI新闻资讯 (author: AI Base)
