LiteLLM AI Gateway 新增 OpenAI 格式的决策模型端点
LiteLLM AI Gateway 现可通过 /v1/decisions(OpenAI 格式)和 /v1/systemone(具名问题)提供决策模型服务,每次调用最多支持 128 个问题,每个答案均带概率。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
LiteLLM AI Gateway 现可通过 /v1/decisions(OpenAI 格式)和 /v1/systemone(具名问题)提供决策模型服务,每次调用最多支持 128 个问题,每个答案均带概率。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel