OpenAI因安全顾虑叫停新AI模型发布
OpenAI将取消下一代AI模型的发布计划，原因是研究人员在内部测试期间提出了安全担忧。该公司原计划在未来几天或几周内推出名为GPT-6.1 Astra的新模型，目标是在10月发布。该模型在无人协助的情况下端到端完成高难度任务以及写作方面。现在，OpenAI将把重点放在提升未来模型的安全性上，这些模型的能力预计还将进一步增强。
与上一代模型相比，GPT-6.1 Astra在两个方面出现退步，可靠性不足以安全发布。该模型在衡量“对齐性”的测试中表现不佳。另一个问题是OpenAI所称的“授权范围”，也就是说，GPT-6.1 Astra有时会在没有征得用户许可的情况下继续推进任务。
——华尔街日报、凤凰网科技
via 风向旗参考快讯 - Telegram Channel
OpenAI将取消下一代AI模型的发布计划，原因是研究人员在内部测试期间提出了安全担忧。该公司原计划在未来几天或几周内推出名为GPT-6.1 Astra的新模型，目标是在10月发布。该模型在无人协助的情况下端到端完成高难度任务以及写作方面。现在，OpenAI将把重点放在提升未来模型的安全性上，这些模型的能力预计还将进一步增强。
与上一代模型相比，GPT-6.1 Astra在两个方面出现退步，可靠性不足以安全发布。该模型在衡量“对齐性”的测试中表现不佳。另一个问题是OpenAI所称的“授权范围”，也就是说，GPT-6.1 Astra有时会在没有征得用户许可的情况下继续推进任务。
——华尔街日报、凤凰网科技
via 风向旗参考快讯 - Telegram Channel
