LiteLLM 合并多项修复:Bedrock 结构化输出、Gemini 续写、提示缓存与网页搜索路由
LiteLLM 合并了多项更新,包括 Bedrock Opus 5 和 Opus 4.8 使用原生 JSON schema 进行结构化输出、Gemini Interactions 支持 continuation_token 续写、提示缓存保持会话在同一部署,以及网页搜索路由修复。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
LiteLLM 合并了多项更新,包括 Bedrock Opus 5 和 Opus 4.8 使用原生 JSON schema 进行结构化输出、Gemini Interactions 支持 continuation_token 续写、提示缓存保持会话在同一部署,以及网页搜索路由修复。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel