OpenAI 于10月22日正式向所有客户开放 Decisions API，推出面向快速决策场景的 API 服务，直接参与由初创公司 TypeSafe 的 Jev 模型带动的决策模型竞争。
OpenAI 于9月29日开发者日宣布该产品，核心是重新配置 ChatGPT Luna 模型，以降低推理延迟和使用成本，而非专门训练独立决策模型。
据 OpenAI API 产品负责人 Nikunj Handa 介绍，Decisions API 可将处理时间从1—3秒缩短至100—180毫秒。公开版本新增语音和视觉模态，并通过按地区调度推理资源降低延迟。在 Box、Datadog、Ramp 和 Speak 等客户的初步测试中，该 API 提升了处理吞吐量;其中，语言学习应用 Speak 将操作间隔从1.4秒缩短至0.13秒。OpenAI 也将其用于提升 Dots 语音助手的响应速度。
决策模型能够根据给定选项快速作出选择并提供置信度评估，有望替代部分传统大语言模型承担的逻辑判断环节。当前，Jev、Liquid 的 D1Ultra、Base Labs 的 Elephant-1等产品均参与竞争。
公开基准测试中，最新 Jev 模型在两个决策模型指数中分别排名第七和第三，OpenAI 模型则分别位列第八和第十四。随着多模态能力与推理速度持续提升，决策模型有望拓展实时交互、图像分类及视频逐帧处理等应用场景，但不同任务对速度、成本和准确性的要求仍存在差异。
via AI新闻资讯 (author: AI Base)
