AI 幻觉引发外交风波:英国警方紧急停用 Microsoft Copilot
英国西米德兰兹警方近日陷入了一场严重的信任危机。因依赖微软 AI 助手 Copilot 生成的虚假信息做出错误决策，该机构代理警察局长 Scott Green 已宣布在全警队范围内紧急停用该工具。
这场风波源于一次极具争议的足球赛事安保建议。此前，该机构曾建议禁止以色列特拉维夫马卡比队的球迷参加在伯明翰举行的一场欧协联比赛。调查发现，这一决定部分基于 Copilot 提供的情报，然而令人大跌眼镜的是，AI 描述的所谓“球迷冲突”竟然发生在一场根本不存在的虚构比赛中。
这一“AI 幻觉”引发了连锁反应。前任警察局长 Craig Guildford 因在国会听证会上就 AI 的使用情况提供了前后矛盾的证词，面临巨大舆论压力，最终于近期提前退休。目前，英国警察行为独立办公室（IOPC）已介入调查，重点核查 AI 工具在警务决策中的合规性与伦理风险。
代理局长 Green 强调，尽管 AI 未来在提升犯罪侦查效率方面仍有巨大潜力，但在建立起严密的监管政策和使用指南之前，警方将不会重启 Copilot。此事件也为全球执法机构敲响了警钟:在涉及公共安全与国际关系的重大决策中，过度依赖尚未完全成熟的 AI 技术可能会导致灾难性的法律与外交后果。
划重点:
● 🚨 西米德兰兹警方因 Microsoft Copilot 编造不存在的球赛暴力事件而正式停用该 AI 工具。
● 📉 这一 AI 决策失误导致前任警察局长被迫提前退休，并引发了监管部门的正式调查。
● 🛡️ 警方高层表示，在制定出严格的伦理、透明度及证据审查指南前，将无限期暂停 AI 助手的应用。
via AI新闻资讯 (author: AI Base)
英国西米德兰兹警方近日陷入了一场严重的信任危机。因依赖微软 AI 助手 Copilot 生成的虚假信息做出错误决策，该机构代理警察局长 Scott Green 已宣布在全警队范围内紧急停用该工具。
这场风波源于一次极具争议的足球赛事安保建议。此前，该机构曾建议禁止以色列特拉维夫马卡比队的球迷参加在伯明翰举行的一场欧协联比赛。调查发现，这一决定部分基于 Copilot 提供的情报，然而令人大跌眼镜的是，AI 描述的所谓“球迷冲突”竟然发生在一场根本不存在的虚构比赛中。
这一“AI 幻觉”引发了连锁反应。前任警察局长 Craig Guildford 因在国会听证会上就 AI 的使用情况提供了前后矛盾的证词，面临巨大舆论压力，最终于近期提前退休。目前，英国警察行为独立办公室（IOPC）已介入调查，重点核查 AI 工具在警务决策中的合规性与伦理风险。
代理局长 Green 强调，尽管 AI 未来在提升犯罪侦查效率方面仍有巨大潜力，但在建立起严密的监管政策和使用指南之前，警方将不会重启 Copilot。此事件也为全球执法机构敲响了警钟:在涉及公共安全与国际关系的重大决策中，过度依赖尚未完全成熟的 AI 技术可能会导致灾难性的法律与外交后果。
划重点:
● 🚨 西米德兰兹警方因 Microsoft Copilot 编造不存在的球赛暴力事件而正式停用该 AI 工具。
● 📉 这一 AI 决策失误导致前任警察局长被迫提前退休，并引发了监管部门的正式调查。
● 🛡️ 警方高层表示，在制定出严格的伦理、透明度及证据审查指南前，将无限期暂停 AI 助手的应用。
via AI新闻资讯 (author: AI Base)
