https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
在花🎗️科技圈:
📱 Google Chrome 被指在未经许可下静默下载 4 GB AI 模型 安全研究员 Alexander Hanff 称,Google Chrome 在未征得用户同意的情况下,向符合硬件条件的设备后台静默下载约 4 GB 的 Gemini Nano AI 模型文件(weights.bin)。即便手动删除该文件,浏览器也会自动重下。该行为被指违反欧盟 GDPR 等法律,剥夺了用户设备控制权。 此次静默部署引发了对环境及带宽成本的担忧。研究员估算,若覆盖 10 亿用户,仅模型分发产生的碳排放就可能达…
谷歌 Home 音箱被曝后台狂下数据,官方称修复中
谷歌新款 Home 音箱被曝在后台持续大量下载数据,有用户反映 24 小时消耗 17 GB 甚至 25 GB,30 天累计达 132 GB。谷歌已承认该问题,称修复正在推送,应可解决。
过去一周,多名用户在 Reddit 报告类似情况,疑与设备固件下载失败有关。该问题似乎并不普遍,同一家庭内的其他 Nest 设备未见异常,但流量套餐有限的用户可能因此超额。
9To5Google
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
近日第二届国际人工智能科学家大会(ICAIS 2026)在北京中关村举行。会上,2013年诺贝尔化学奖得主、斯坦福大学结构生物学与计算机科学教授迈克尔·莱维特发表演讲,回顾了AI如何改变自己的研究工作,并预测了未来科研的变化。
面对AI时代,莱维特乐观地认为,年龄的鸿沟正在被抹平。
莱维特预计,到2056年,借助AI智能体的年轻科学家,一年可能完成他这一代科学家一生的工作。
他同时表示,这个预测可能还不够激进,未来的效率提升幅度可能远超30倍。
这种变化还可能影响科学家的年龄优势,莱维特指出,年长研究者拥有长期积累的知识与经验,年轻研究者则更有精力探索新领域。
AI有机会缩小两者之间的差距,让经验更容易转化为实际行动,也让年轻研究者更快进入复杂的研究工作。
他幽默地调侃:“一个拥有AI智能体的老年人,可能和一个没有AI智能体的年轻人一样强大。”自己70岁时决定不再带学生,但现在,AI让他迎来了科研的第二春。
而面对充满着剧变的当今时代,莱维特特别强调了生物界的生存法则:“不是适者生存,而是多样者生存”。
因此,AI模型的安全也依赖于多样性。在他看来,像DeepSeek、Kimi、Claude、ChatGPT等多种模型的并存,正是人类安全使用AI的保障。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:快科技)
在花🎗️科技圈:
🤖 Anthropic 开始给 Claude 用户送实体周边了 用户进入 Claude Dev 网站并打开 terminal 后,输入 /plushies,即可进入 Claude 毛绒玩具的登记领取流程;如果想领取贴纸,则可以输入 /stickers。 毛绒玩具和贴纸均为免费领取,不需要购买商品;活动采用“送完即止”(while supplies last)的库存规则,每人限领一份,并要求参与者年满 18 岁。毛绒玩具为随机款式,无法指定具体造型。配送则限定在 Brilliant 能够提供物流服务的地区。…
🤖 Anthropic 送的实体周边大家收到了吗?
小编的到了,可爱腻😉
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
DeepSeek 开源 DeepInfer 推理框架与分词编解码组件
DeepSeek 开源了自研推理框架 DeepInfer,该框架支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟服务;同时开源了 deepseek-recipe 分词编解码组件,其处理逻辑与官方 API 一致。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
DeepSeek 开源了自研推理框架 DeepInfer,该框架支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟服务;同时开源了 deepseek-recipe 分词编解码组件,其处理逻辑与官方 API 一致。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
DeepSeek 开源内部推理框架 DeepInfer,要把大模型服务的成本打下来
DeepSeek 在10月20日官宣,在已经陆续开源一系列大模型、TileLang 编译工具以及推理算子库之后,决定再往前迈一步——把自家的内部推理框架 DeepInfer 全面开源。
这家公司点明了一个长期被公众忽视的中间层:大模型的能力上限由模型本身划定,但如何以合理成本撑起超大规模的模型服务,真正取决于推理框架。训练让模型"学有所成",推理则让模型"为人所用"。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,它的效率直接决定了 AI 服务的算力成本与电力消耗。
DeepSeek 想通过公开内部的部署经验,帮开发者与企业组织优化大规模推理的吞吐量与延迟,从而更高效地搭建私有化或公有云部署,压低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现它口中的"大模型普惠"。
基于 DeepInfer,DeepSeek 官方已经跑通了 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务;往后,新模型的推理代码和后续优化也会在这个框架里持续更新。
具体来看,DeepInfer 推理框架集成了高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,并且同时兼容英伟达与华为昇腾两套平台。与之同步开源的,还有 deepseek-recipe 编解码组件——一个生产级的 Token 编解码模块,与 DeepSeek 官方 API 的处理逻辑完整对齐,确保社区拿到的 API 体验和官方部署保持一致。对想自己搭建推理服务的人来说,这意味着不必再从零摸索,直接站在 DeepSeek 的部署经验之上。
via AI新闻资讯 (author: AI Base)
DeepSeek 在10月20日官宣,在已经陆续开源一系列大模型、TileLang 编译工具以及推理算子库之后,决定再往前迈一步——把自家的内部推理框架 DeepInfer 全面开源。
这家公司点明了一个长期被公众忽视的中间层:大模型的能力上限由模型本身划定,但如何以合理成本撑起超大规模的模型服务,真正取决于推理框架。训练让模型"学有所成",推理则让模型"为人所用"。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,它的效率直接决定了 AI 服务的算力成本与电力消耗。
DeepSeek 想通过公开内部的部署经验,帮开发者与企业组织优化大规模推理的吞吐量与延迟,从而更高效地搭建私有化或公有云部署,压低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现它口中的"大模型普惠"。
基于 DeepInfer,DeepSeek 官方已经跑通了 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务;往后,新模型的推理代码和后续优化也会在这个框架里持续更新。
具体来看,DeepInfer 推理框架集成了高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,并且同时兼容英伟达与华为昇腾两套平台。与之同步开源的,还有 deepseek-recipe 编解码组件——一个生产级的 Token 编解码模块,与 DeepSeek 官方 API 的处理逻辑完整对齐,确保社区拿到的 API 体验和官方部署保持一致。对想自己搭建推理服务的人来说,这意味着不必再从零摸索,直接站在 DeepSeek 的部署经验之上。
via AI新闻资讯 (author: AI Base)
DeepSeek 再掀开源浪潮:内部推理框架 DeepInfer 全面公开,剑指"大模型普惠"
DeepSeek 当日官宣,在先后放出一系列大模型、TileLang 编译工具与推理算子库之后,进一步把自家的内部推理框架 DeepInfer 全盘开源。这家公司想补上的,是一个长期躲在聚光灯之外的环节——推理框架。
在 DeepSeek 的定义里,模型的能力上限由模型本身决定,但"怎样以合理成本把超大规模模型供出去",靠的是这层中间架构。训练让模型学有所成,推理才让它为人所用。当海量用户同时调用,推理框架负责统筹调度庞杂的算力集群,其效率高低,直接撬动着 AI 服务的算力开销与耗电——它既不像模型权重那样吸睛,却是把实验室能力搬进现实的关键闸口。
开源不只给代码,更要压低用 AI 的价码
DeepSeek 的意图很明确:把内部部署经验摊开,帮开发者与企业组织把大规模推理的吞吐量与延迟优化上去,从而更高效地搭建私有化或公有云部署,压低算力成本、少烧电。一句话,让智能以更便宜的价格触达更多人,兑现"真正的大模型普惠"。
这套框架并非空谈。基于 DeepInfer,DeepSeek 官方已跑通 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务;往后新模型的推理代码与后续调优,也将持续在这里更新。从公开的能力清单看,DeepInfer 集成了高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等特性,并且同时兼容英伟达与华为昇腾两大平台——在出口管制倒逼国产替代的当下,这种"双栈通吃"的适配,对国内开发者尤其实在。
与框架同步开源的,还有 deepseek-recipe 这一生产级 Token 编解码组件,处理逻辑与 DeepSeek 官方 API 完整对齐,确保社区拿到的体验与官方部署如出一辙。两份代码已分别托管于 GitHub 的 deepseek-ai/DeepInfer 与 deepseek-ai/deepseek-recipe。
从模型到算子库再到推理框架,DeepSeek 正把"造模型"的全套手艺往开源社区里搬。当算力成本成了 AI 普及的最大门槛,把效率内核交出去,或许比单纯放出几个权重更能撬动生态——毕竟谁能帮行业把每一度电、每一张卡榨出更高产出,谁就握住了普惠叙事里的真正筹码。
via AI新闻资讯 (author: AI Base)
DeepSeek 当日官宣,在先后放出一系列大模型、TileLang 编译工具与推理算子库之后,进一步把自家的内部推理框架 DeepInfer 全盘开源。这家公司想补上的,是一个长期躲在聚光灯之外的环节——推理框架。
在 DeepSeek 的定义里,模型的能力上限由模型本身决定,但"怎样以合理成本把超大规模模型供出去",靠的是这层中间架构。训练让模型学有所成,推理才让它为人所用。当海量用户同时调用,推理框架负责统筹调度庞杂的算力集群,其效率高低,直接撬动着 AI 服务的算力开销与耗电——它既不像模型权重那样吸睛,却是把实验室能力搬进现实的关键闸口。
开源不只给代码,更要压低用 AI 的价码
DeepSeek 的意图很明确:把内部部署经验摊开,帮开发者与企业组织把大规模推理的吞吐量与延迟优化上去,从而更高效地搭建私有化或公有云部署,压低算力成本、少烧电。一句话,让智能以更便宜的价格触达更多人,兑现"真正的大模型普惠"。
这套框架并非空谈。基于 DeepInfer,DeepSeek 官方已跑通 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务;往后新模型的推理代码与后续调优,也将持续在这里更新。从公开的能力清单看,DeepInfer 集成了高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等特性,并且同时兼容英伟达与华为昇腾两大平台——在出口管制倒逼国产替代的当下,这种"双栈通吃"的适配,对国内开发者尤其实在。
与框架同步开源的,还有 deepseek-recipe 这一生产级 Token 编解码组件,处理逻辑与 DeepSeek 官方 API 完整对齐,确保社区拿到的体验与官方部署如出一辙。两份代码已分别托管于 GitHub 的 deepseek-ai/DeepInfer 与 deepseek-ai/deepseek-recipe。
从模型到算子库再到推理框架,DeepSeek 正把"造模型"的全套手艺往开源社区里搬。当算力成本成了 AI 普及的最大门槛,把效率内核交出去,或许比单纯放出几个权重更能撬动生态——毕竟谁能帮行业把每一度电、每一张卡榨出更高产出,谁就握住了普惠叙事里的真正筹码。
via AI新闻资讯 (author: AI Base)
DeepSeek 以 Apache-2.0 协议开源 DeepInfer 推理框架
DeepSeek 以 Apache-2.0 协议开源高性能大规模推理框架 DeepInfer,支持优化内核、MoE 专家并行、确定性采样与结构化输出。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
DeepSeek 以 Apache-2.0 协议开源高性能大规模推理框架 DeepInfer,支持优化内核、MoE 专家并行、确定性采样与结构化输出。
内容详情 · 原文链接
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
DeepSeek 开源推理框架 DeepInfer:推理成本成为 AI 普惠的关键一层
DeepSeek10月20日宣布全面开源内部推理框架 DeepInfer,这是继此前开源系列大模型、TileLang 编译工具与推理算子库之后的又一次开放。官方指出,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模模型服务,还取决于推理框架这一中间层——它统筹调度庞大的算力集群,其效率直接决定 AI 服务的算力成本与电力消耗。
DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,同时兼容英伟达与华为昇腾平台。基于该框架,DeepSeek 已实现 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务,未来新模型的推理代码及后续优化也将持续在此更新。
配套同步开源的 deepseek-recipe 是生产级 Token 编解码组件,与 DeepSeek 官方 API 的处理逻辑完整对齐,确保社区获得与官方部署一致的 API 体验,两部分代码均已在 GitHub 开放,DeepSeek 另在知乎发布了完整技术报告。
官方表示,开源推理框架的目的一在于帮助开发者与企业组织优化大规模推理的吞吐与延迟,高效构建私有化与公有云部署,从而降低算力成本、减少能源消耗,让智能以更低价格触达更广泛人群,并将继续支持社区进行大规模部署优化。模型、算子库与推理框架的逐层开放,延续了国产大模型以开源生态降低推理门槛、推动智能普惠的行业路径。
开源仓库
DeepInfer: https://github.com/deepseek-ai/DeepInfer
deepseek-recipe: https://github.com/
deepseek-ai/deepseek-recipe
via AI新闻资讯 (author: AI Base)
DeepSeek10月20日宣布全面开源内部推理框架 DeepInfer,这是继此前开源系列大模型、TileLang 编译工具与推理算子库之后的又一次开放。官方指出,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模模型服务,还取决于推理框架这一中间层——它统筹调度庞大的算力集群,其效率直接决定 AI 服务的算力成本与电力消耗。
DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,同时兼容英伟达与华为昇腾平台。基于该框架,DeepSeek 已实现 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务,未来新模型的推理代码及后续优化也将持续在此更新。
配套同步开源的 deepseek-recipe 是生产级 Token 编解码组件,与 DeepSeek 官方 API 的处理逻辑完整对齐,确保社区获得与官方部署一致的 API 体验,两部分代码均已在 GitHub 开放,DeepSeek 另在知乎发布了完整技术报告。
官方表示,开源推理框架的目的一在于帮助开发者与企业组织优化大规模推理的吞吐与延迟,高效构建私有化与公有云部署,从而降低算力成本、减少能源消耗,让智能以更低价格触达更广泛人群,并将继续支持社区进行大规模部署优化。模型、算子库与推理框架的逐层开放,延续了国产大模型以开源生态降低推理门槛、推动智能普惠的行业路径。
开源仓库
DeepInfer: https://github.com/deepseek-ai/DeepInfer
deepseek-recipe: https://github.com/
deepseek-ai/deepseek-recipe
via AI新闻资讯 (author: AI Base)