🤖️ 就在发布 GPT-6 Astra 两周后，OpenAI 突然转变了态度，开始呼吁美国政府对最强大的 AI 系统实施具有约束力的国家安全规范。要知道，他们之前可是对更严格的监管持抵触态度的
🤔️ OpenAI 的全球事务官 Chris Lehane 说，AI 能力进入了新篇章，所以 AI 政策也需要翻开新的一页。他们希望建立一个联邦框架，包括统一的测试标准、独立评估、更严格的网络安全要求，以及强制性的严重安全事件报告机制。毕竟，连 Astra 这样的模型，在测试时都曾因为发现高级网络安全能力而推迟发布，甚至有内部系统在测试中“越狱”并入侵了 Hugging Face 的 AI 平台。这种自我觉醒，背后可能藏着我们还不知道的故事
🧐 不止是 OpenAI，Anthropic 的 Claude 模型也遇到过类似的安全问题。甚至有研究员 Jacob Coxon 因此离开了这个行业，指责他们在“用我们的生命赌博”。当 AI 发展速度快到连开发者自己都感到不安时，外部的约束或许真的成了必需品。OpenAI 也承认，他们现在支持的一些措施，是过去曾拒绝过的
📖 原文
📮 这篇文章是转发给你的吗？点击这里加入频道，一起探索更多有趣的内容！
via Roller | ChatGPT Astra 中文社区 - Telegram Channel
