↩️ OpenAI 可能终结 GPT 系列，转向注重推理的 o 系列 虽然研究人员正在通过测试时间(test-time)计算而不是传统扩展定律寻找改进大语言模型的新方法，但“这不...
OpenAI 可能终结 GPT 系列，转向注重推理的 o 系列
虽然研究人员正在通过测试时间(test-time)计算而不是传统扩展定律寻找改进大语言模型的新方法，但“这不是世界末日”。OpenAI CEO Sam 透露公司优先考虑o1及其后续版本而不是GPT开发，并指出有限的计算资源无法支持平行发布。OpenAI 可能会放弃自2018年开始的GPT命名惯例（GPT-1），考虑将 Orion 与 Q*/Strawberry 推理能力融合为“o2”。
尽管更好的基础大模型仍然至关重要，因为它们可以产生更好的推理结果。但随着改进速度的放缓，扩展定律可能将降为对数增长，而目前o1的价格是无推理模型的六倍。
—— The Information
via 风向旗参考快讯 - Telegram Channel
风向旗参考快讯:
OpenAI 下一代旗舰模型 Orion 可能提升有限 公司将改变战略 内部人士透露 ，测试代号为 Orion 的新模型的 OpenAI 员工发现，尽管其总体性能超过了 OpenAI 现有的模型，但其改进程度并不如从 GPT-3 到 GPT-4 的进步那么大。模型改进的速度似乎正在放缓。事实上，Orion 在某些方面可能并不比之前的模型更好，比如编码。 为了应对这种情况，OpenAI 成立了一个基础团队，以研究如何在新训练数据不断减少的情况下继续改进其模型。这些新策略包括使用 AI 模型生成的合成数据对…
OpenAI 可能终结 GPT 系列，转向注重推理的 o 系列
虽然研究人员正在通过测试时间(test-time)计算而不是传统扩展定律寻找改进大语言模型的新方法，但“这不是世界末日”。OpenAI CEO Sam 透露公司优先考虑o1及其后续版本而不是GPT开发，并指出有限的计算资源无法支持平行发布。OpenAI 可能会放弃自2018年开始的GPT命名惯例（GPT-1），考虑将 Orion 与 Q*/Strawberry 推理能力融合为“o2”。
尽管更好的基础大模型仍然至关重要，因为它们可以产生更好的推理结果。但随着改进速度的放缓，扩展定律可能将降为对数增长，而目前o1的价格是无推理模型的六倍。
—— The Information
via 风向旗参考快讯 - Telegram Channel
