https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
ChatGPT周活用户即将突破10亿 比预期节奏晚了半年
根据OpenAI内部披露的信息,其ChatGPT的周活跃用户即将突破10亿大关,而这较其最初的预期晚了半年。该公司原本期望在去年年底达成这一里程碑,目前来看,该目标的时间比最初预期晚了七个月。尽管如此,这依旧凸显了全球人工智能应用的快速增长。
ChatGPT增长节奏不及预期,背后是多重因素的共同作用。其中部分原因是受到竞争对手的人工智能产品的抑制,谷歌的Gemini以及Anthropic的Claude都抢占了聊天机器人市场的部分份额。还有部分原因来自OpenAI自身。去年秋季OpenAI推出GPT-5时,产品周活增长就已出现下滑,因为该模型研发过程波折不断,上线后遭到大量用户诟病。
—— 财联社
via 风向旗参考快讯 - Telegram Channel
根据OpenAI内部披露的信息,其ChatGPT的周活跃用户即将突破10亿大关,而这较其最初的预期晚了半年。该公司原本期望在去年年底达成这一里程碑,目前来看,该目标的时间比最初预期晚了七个月。尽管如此,这依旧凸显了全球人工智能应用的快速增长。
ChatGPT增长节奏不及预期,背后是多重因素的共同作用。其中部分原因是受到竞争对手的人工智能产品的抑制,谷歌的Gemini以及Anthropic的Claude都抢占了聊天机器人市场的部分份额。还有部分原因来自OpenAI自身。去年秋季OpenAI推出GPT-5时,产品周活增长就已出现下滑,因为该模型研发过程波折不断,上线后遭到大量用户诟病。
—— 财联社
via 风向旗参考快讯 - Telegram Channel
Investigating Grok 4.5 / Composer degradation
Jul 29, 08:51 UTC
Investigating - We are investigating a service degradation with Grok 4.5 and Composer 2.5
via Cursor Status - Incident History
Jul 29, 08:51 UTC
Investigating - We are investigating a service degradation with Grok 4.5 and Composer 2.5
via Cursor Status - Incident History
谷歌解散AI系统AlphaFold团队 将重心放在Gemini上
一项拿过诺贝尔奖的成就,正在被自己的缔造者悄然拆散。据媒体报道,谷歌旗下 AI 实验室 DeepMind 已经解散了 AlphaFold 背后的团队——正是这套预测蛋白质三维结构的系统,把 CEO 哈萨比斯与工程研究员江珀送上了 2024 年诺贝尔化学奖的领奖台。
过去一年里,这场静默的拆解沿着人事变动一点点展开。AlphaFold 论文的大多数原始作者,已被重新分配到别的团队;在仍属 DeepMind 全职的作者中,近四分之一已彻底离开公司。留下来的人,被塞进了围绕 Gemini 大语言模型搭建的项目,或是酶设计、核聚变、基因组学这些新方向;另一部分则调往 Alphabet 旗下的药物发现公司 Isomorphic Labs。
DeepMind 研究副总裁普什米特·科利的话,点破了这场重组的底色。他创立并领导着"AI 科学"团队,曾定下九年方略:聚焦重大科学挑战,让每个项目都围着明确目标转。如今他坦言,这一战略已经变了。DeepMind 不再只围着蛋白质折叠这类单一科学问题排兵布阵,而是把重心挪到打造"由 Gemini 驱动、能协助科学家、并最终把科研部分流程自动化"的系统上,同时也在与 OpenAI、Anthropic 抢最前沿的智能体。
最刺眼的人才外流,发生在核心层。今年早些时候,江珀与另一位 AlphaFold 研究员阿德勒转入了谷歌内部的"Code Strike"团队——那是为追赶 Anthropic 和 OpenAI、提升 AI 编程能力而成立的班底。上个月,江珀宣布离职、转投 Anthropic,阿德勒与 AlphaFold 同事普里策尔也一并随行。一位不愿具名的 DeepMind 员工称,这三人都是"关键、重要、核心成员",他们的离开在公司内部引发了震动。
AlphaFold 的故事始于 2018 年,它用 AI 预测蛋白质结构,彻底改写了生物学研究的路径,也铺出了 Isomorphic Labs 的诞生之路。DeepMind 在回应中仍表达对科学传统与 AlphaFold 全球影响的自豪,但言语之间,那个曾以"攻克单一重大难题"为荣的实验室,已把最聪明的脑子调去喂养通用大模型与智能体。一项诺奖级的遗产,正从专职攻关,转向为更宏大的 AI 叙事让路。
via AI新闻资讯 (author: AI Base)
一项拿过诺贝尔奖的成就,正在被自己的缔造者悄然拆散。据媒体报道,谷歌旗下 AI 实验室 DeepMind 已经解散了 AlphaFold 背后的团队——正是这套预测蛋白质三维结构的系统,把 CEO 哈萨比斯与工程研究员江珀送上了 2024 年诺贝尔化学奖的领奖台。
过去一年里,这场静默的拆解沿着人事变动一点点展开。AlphaFold 论文的大多数原始作者,已被重新分配到别的团队;在仍属 DeepMind 全职的作者中,近四分之一已彻底离开公司。留下来的人,被塞进了围绕 Gemini 大语言模型搭建的项目,或是酶设计、核聚变、基因组学这些新方向;另一部分则调往 Alphabet 旗下的药物发现公司 Isomorphic Labs。
DeepMind 研究副总裁普什米特·科利的话,点破了这场重组的底色。他创立并领导着"AI 科学"团队,曾定下九年方略:聚焦重大科学挑战,让每个项目都围着明确目标转。如今他坦言,这一战略已经变了。DeepMind 不再只围着蛋白质折叠这类单一科学问题排兵布阵,而是把重心挪到打造"由 Gemini 驱动、能协助科学家、并最终把科研部分流程自动化"的系统上,同时也在与 OpenAI、Anthropic 抢最前沿的智能体。
最刺眼的人才外流,发生在核心层。今年早些时候,江珀与另一位 AlphaFold 研究员阿德勒转入了谷歌内部的"Code Strike"团队——那是为追赶 Anthropic 和 OpenAI、提升 AI 编程能力而成立的班底。上个月,江珀宣布离职、转投 Anthropic,阿德勒与 AlphaFold 同事普里策尔也一并随行。一位不愿具名的 DeepMind 员工称,这三人都是"关键、重要、核心成员",他们的离开在公司内部引发了震动。
AlphaFold 的故事始于 2018 年,它用 AI 预测蛋白质结构,彻底改写了生物学研究的路径,也铺出了 Isomorphic Labs 的诞生之路。DeepMind 在回应中仍表达对科学传统与 AlphaFold 全球影响的自豪,但言语之间,那个曾以"攻克单一重大难题"为荣的实验室,已把最聪明的脑子调去喂养通用大模型与智能体。一项诺奖级的遗产,正从专职攻关,转向为更宏大的 AI 叙事让路。
via AI新闻资讯 (author: AI Base)
Grok 长出"建造"本能:动动嘴就能生出带域名的网站与应用,xAI 把聊天框推向开发台
马斯克旗下的 xAI 给 Grok 接上了一项新本领。名为 Build 的模式正式上线,它把用户的自然语言提示词,直接翻译成带独立域名的产品——不必写一行代码,只要开口描述,作品就能在眼前实时预览、反复打磨。
这个模式眼下仍是个早期测试版,门槛被刻意抬到了最高一档:仅向每月 300 美元的 SuperGrok Heavy 订阅者开放,可在多端使用。它能生成的产物相当宽泛,网站、功能性应用、游戏、实时仪表盘都在其列;等作品成型,既可以通过 grok.me 的链接对外发布,也能绑定用户自己的自定义域名。一句话的创意,就这样被 AI 从念头拽成了真正能访问的线上产品。
把视角拉远,Build 模式透露出 xAI 更大的野心。它标志着 Grok 正从一名陪你对话的助手,向端到端的开发平台延展——用户不再只是问问题,而是能在同一个界面里把想法直接"造"出来。这条路,恰好与市面上多款 AI 编程工具正面交叠,竞争的山头,正从聊天一路烧到了构建。
via AI新闻资讯 (author: AI Base)
马斯克旗下的 xAI 给 Grok 接上了一项新本领。名为 Build 的模式正式上线,它把用户的自然语言提示词,直接翻译成带独立域名的产品——不必写一行代码,只要开口描述,作品就能在眼前实时预览、反复打磨。
这个模式眼下仍是个早期测试版,门槛被刻意抬到了最高一档:仅向每月 300 美元的 SuperGrok Heavy 订阅者开放,可在多端使用。它能生成的产物相当宽泛,网站、功能性应用、游戏、实时仪表盘都在其列;等作品成型,既可以通过 grok.me 的链接对外发布,也能绑定用户自己的自定义域名。一句话的创意,就这样被 AI 从念头拽成了真正能访问的线上产品。
把视角拉远,Build 模式透露出 xAI 更大的野心。它标志着 Grok 正从一名陪你对话的助手,向端到端的开发平台延展——用户不再只是问问题,而是能在同一个界面里把想法直接"造"出来。这条路,恰好与市面上多款 AI 编程工具正面交叠,竞争的山头,正从聊天一路烧到了构建。
via AI新闻资讯 (author: AI Base)
据《商业内幕》援引内部人士报道,亚马逊正对其 AI 战略进行重大调整,停止对旗下大部分自研 Nova 系列大模型的积极开发。本次收缩覆盖旗舰级 Nova Premier 与 Omni 模型、Reel 视频模型及 Canvas 图像生成器;上述模型已转入“维持运行”模式,仅继续服务现有客户。此前,亚马逊已对其 AGI 部门实施裁员,并关闭了2024年收购 Adept 后成立的 AGI 实验室。
虽然收缩了首批自研产品线,但亚马逊并未退出顶级 AI 争夺。目前,研发资源正全面转向由前沿专家皮特·阿贝尔(通过收购机器人初创公司 Covariant 加入)领导的前沿模型研究团队,全新基础模型预计将于今年秋季 re:Invent 大会上正式发布。亚马逊发言人强调,AI 模型仍是公司最核心的项目之一。同时,亚马逊作为 Anthropic 和 OpenAI 的最大支持者之一,相关投资或已超千亿美元。
此次调整表明科技巨头正从“多线铺开”转向“集中资源攻坚单一顶级前沿模型”。亚马逊在强化云生态与外部投资的同时,正力求通过精准的技术突破重塑其在大模型前沿梯队的竞争地位。
via AI新闻资讯 (author: AI Base)
ChatGPT周活用户逼近 10 亿大关:晚了 7 个月,但上线不到四年
据OpenAI内部披露,旗下聊天机器人ChatGPT周活跃用户量即将突破 10 亿。这一里程碑原计划于去年年底达成,虽然比预期晚了七个月,但上线不足四年便积累如此规模的用户基础,在全球互联网应用中仍属增速最快的产品之一。公司发言人对此未予置评。
迟到 7 个月的里程碑,增长引擎正在换挡
ChatGPT用户增长放缓背后有多重因素叠加。谷歌的Gemini正持续深度整合拥有数十亿用户的搜索引擎,从流量入口端蚕食市场;去年秋季推出的GPT- 5 研发过程一波三折,上线后遭到大量用户诟病,直接拖累了增长曲线。
此外,多家调研机构数据显示,Anthropic的Claude聊天机器人自那以来也分走了一部分市场份额。 10 亿用户固然是一张漂亮的成绩单,但迟到的 7 个月同样揭示了一个现实:ChatGPT的先发红利正在被快速稀释,AI聊天机器人市场正从一家独大走向多强角力。
via AI新闻资讯 (author: AI Base)
据OpenAI内部披露,旗下聊天机器人ChatGPT周活跃用户量即将突破 10 亿。这一里程碑原计划于去年年底达成,虽然比预期晚了七个月,但上线不足四年便积累如此规模的用户基础,在全球互联网应用中仍属增速最快的产品之一。公司发言人对此未予置评。
迟到 7 个月的里程碑,增长引擎正在换挡
ChatGPT用户增长放缓背后有多重因素叠加。谷歌的Gemini正持续深度整合拥有数十亿用户的搜索引擎,从流量入口端蚕食市场;去年秋季推出的GPT- 5 研发过程一波三折,上线后遭到大量用户诟病,直接拖累了增长曲线。
此外,多家调研机构数据显示,Anthropic的Claude聊天机器人自那以来也分走了一部分市场份额。 10 亿用户固然是一张漂亮的成绩单,但迟到的 7 个月同样揭示了一个现实:ChatGPT的先发红利正在被快速稀释,AI聊天机器人市场正从一家独大走向多强角力。
via AI新闻资讯 (author: AI Base)
ChatGPT 周活逼近 10 亿:迟到七个月的里程碑,与三股分流的暗流
OpenAI 内部流出的数字显示,ChatGPT 的周活跃用户量正逼近 10 亿这道门槛。这个里程碑,原本被公司定在去年年底就要撞线,如今比预期晚了七个月,才终于望见终点。
即便迟到了,这份体量依旧惊人。ChatGPT 上线还不满四年,便聚起如此规模的用户,即便不坐"增速第一"的交椅,也稳稳站在互联网应用史上增长最快的那一梯队里。对于这个数字,公司发言人选择了沉默,不予置评。
光环之下,增长的放缓已经藏不住了。三股暗流正在同时分走 ChatGPT 的流量。
第一股来自谷歌。Gemini 正被持续、深度地嵌进那个坐拥数十亿用户的网页搜索引擎,每一次搜索框背后的默认智能,都在把习惯悄悄挪走。第二股来自去年秋天 GPT-5 的上线——那款模型研发过程一波三折,发布后又被大量用户诟病,周活跃用户的增长曲线在那之后明显拐了个弯。第三股则来自 Anthropic 的 Claude,多家调研机构的数据都指向同一结论:自 GPT-5 风波后,Claude 从聊天机器人市场里切走了一块份额。
当一款产品逼近 10 亿周活,它面对的已不再是"能不能长大"的问题,而是"长大之后怎么守住"的考题。三股分流的暗流提示着,聊天机器人的牌桌,正从一家独大走向群雄并起。
via AI新闻资讯 (author: AI Base)
OpenAI 内部流出的数字显示,ChatGPT 的周活跃用户量正逼近 10 亿这道门槛。这个里程碑,原本被公司定在去年年底就要撞线,如今比预期晚了七个月,才终于望见终点。
即便迟到了,这份体量依旧惊人。ChatGPT 上线还不满四年,便聚起如此规模的用户,即便不坐"增速第一"的交椅,也稳稳站在互联网应用史上增长最快的那一梯队里。对于这个数字,公司发言人选择了沉默,不予置评。
光环之下,增长的放缓已经藏不住了。三股暗流正在同时分走 ChatGPT 的流量。
第一股来自谷歌。Gemini 正被持续、深度地嵌进那个坐拥数十亿用户的网页搜索引擎,每一次搜索框背后的默认智能,都在把习惯悄悄挪走。第二股来自去年秋天 GPT-5 的上线——那款模型研发过程一波三折,发布后又被大量用户诟病,周活跃用户的增长曲线在那之后明显拐了个弯。第三股则来自 Anthropic 的 Claude,多家调研机构的数据都指向同一结论:自 GPT-5 风波后,Claude 从聊天机器人市场里切走了一块份额。
当一款产品逼近 10 亿周活,它面对的已不再是"能不能长大"的问题,而是"长大之后怎么守住"的考题。三股分流的暗流提示着,聊天机器人的牌桌,正从一家独大走向群雄并起。
via AI新闻资讯 (author: AI Base)
Kimi K3太牛了!但老板说API太贵,让我本地化部署,我算完成本,他涨红脸沉默不语了!其实成本不高,三千万足矣。
最近Kimi K3上线以后,大家都惊呼,又是一个DeekSeek时刻,哈哈,是不是应该叫Kimi时刻更好点儿。
K3的发布并不亚于当初DeepSeek R1发布造成的盛况,我们老板也是第一时间充值上手了(还挺潮,我都没用上,太贵)。
回来就找我:小X啊,咱们也要学习业内先进公司的经验啊!后面让大家全面使用Kimi K3进行研发。
我说:老板,现在Kimi官方API的定价可不便宜,Kimi官方最便宜的49的套餐不支持K3。
最少需要99的套餐。但是99的套餐上下文窗口是256K的,想要正常用100万Token的得买699的套餐。
咱们研发这边目前有几十个人,就算买30个也得每个月2万多。
老板:这么贵吗?我觉得那个99的就挺好用的啊。
我说:其实简单试用一下99的就挺好的,但是咱们研发用最好还是699的。
老板:哦哦,那这个成本确实挺高的。这样吧,咱们等等K3开源以后本地化部署,这样就只花一次钱,不用每个月都充钱了。
你回去写一份计划书,算算成本啥的,回头交给我。
于是乎我一脸懵逼的出了门,心里直呼一种植物的名字。
----------------------
既然你想要那我就给你算算:
Kimi K3 作为一个拥有 2.8 万亿参数的超大规模混合专家(MoE)模型,想要本地化部署完完全全就是一个企业级的工程。
不可能跟之前那个所谓的 DeepSeek 一体机一样,必须得是一个集群。
别的不谈,先说显卡,这是大头。
官方建议至少需要 64张以上加速卡组成的超节点 才能完整部署。
这类超节点通常由 64-1024 张国产加速卡(如华为昇腾910B等)或海外旗舰卡(如 H200、H100)通过高速互联组成,并需要配套 800G/1.6T 高速光模块和液冷散热方案。
咱们这里以 H200 为例,目前来看这个显卡在计算领域绝对领先,141GB显存的H200大概需要64张能够勉强跑通,达到基本可用的状态。
但是因为MoE 模型在推理时需要在专家间进行高频数据同步,网络带宽是决定性能的关键。
所以还需要上NVLink 交换机 / 互联桥,用于实现 GPU 之间的高带宽、低延迟通信。
另外需要至少需要配备 800G 级别的光模块(若条件允许可上 1.6T),用于机架内或跨机架的高速数据传输。
最后还需要支持 RDMA/RoCE 协议的高速以太网交换机,来确保集群内部数据交换不成为瓶颈。
这些东西需要安装在企业级主板上才能用,需要支持多路 PCIe 5.0 且具备多 GPU 插槽(如 8 卡或 4 卡服务器主板)的定制主板,以8卡主板为例,64张H200需要至少8台顶级服务器机箱。
CPU也不能太差了,得双路企业级 CPU,最起码也得Intel Xeon Sapphire Rapids 或 AMD EPYC Genoa 系列,这样才能够提供充足的 PCIe 通道数,避免 CPU 成为数据调度的瓶颈。
内存也不能太小,毕竟百万计的Token上下文。而且除了 GPU 的 HBM,还需要庞大的系统内存来存放 KV Cache 和中间激活值。
所以每台服务器最起码要配备1TB - 2TB 的 DDR5 内存。
有了内存,还得有存储空间。
得用上企业级的固态硬盘,存储高达 1.4TB 的模型权重文件、数据集以及推理时的缓存盘。
这种得上RAID 阵列,每个服务器不低于8TB,并且太差的盘还不行,因为读写 I/O 带宽不能太小了。
机器的主体基本上已经全了,但这还不是全部。
主体有了,还需要散热。
H200 在高负载 MoE 场景下单卡功耗极高,64 张卡聚集在一个机柜内,传统风冷根本不好使。
所以必须要上 冷板式液冷 或 浸没式液冷。
但是机器还得开机啊,开机就需要电源,单机柜可能得160kW,得拆分。
机柜上必须配备企业级钛金电源,这还没说机房改造的事儿哈!(咱们这里默认机房不需要改造。)
好了,到这里基本上都配齐了,杂七杂八的小配件咱们就不算钱了。
总成本需要多少呢?
保守估计3000万!
----------------------
需要注意的是,这个3000万是一次性投入,并不包含耗材的钱和后续使用。
咱们假设公司有高规格的机房,不需要租专业的 IDC 数据中心,并且公司有自己的高带宽网络专线。
这里只算电费,别的都不算。
单张 H200 显卡在满载运行时的功耗约为 700W(0.7kW)
所以,64 张 H200 显卡本身的总功耗为:
实际机房中除了显卡本身的耗电,还需要考虑服务器主板、CPU、内存、网络交换机以及空调制冷等配套设施的能耗。
数据中心通常用 PUE(电源使用效率)来衡量,国内数据中心的平均 PUE 约为 1.55。
所以,整个集群的实际取电功率需要乘以 1.55 的系数:
因为工业用电不是家庭用电,咱们以每度 1.5元 为基准,1小时运行的话,电费为:
咱们以全年365天,24小时满载运行为例:
就是说一年光电费就91万,这还不算别的,这仅仅是纯电费成本。
----------------------
于是乎我兴冲冲的拿着账单去找老板:老板您看,本地化部署需要的费用也不算很多,仅计算设备成本大约是3000万。不包含场地、机房改造等等费用。
然后,后续投入使用每年的电费成本大概是91万多点儿,这里面不包含耗材和其他设备成本,仅包含电费。
我看着老板的脸色由白转红,又有点儿紫,最后有点儿黑,没说一句话。
沉默良久以后老板开口说:小X啊,这个事儿公司需要开会讨论一下,你把材料留下先回去吧。
走出办公室的一刻,我看着老板拿起那份账单,手不知道为什么有点儿哆嗦。
via 掘金人工智能本月最热 (author: 李剑一)
最近Kimi K3上线以后,大家都惊呼,又是一个DeekSeek时刻,哈哈,是不是应该叫Kimi时刻更好点儿。
K3的发布并不亚于当初DeepSeek R1发布造成的盛况,我们老板也是第一时间充值上手了(还挺潮,我都没用上,太贵)。
回来就找我:小X啊,咱们也要学习业内先进公司的经验啊!后面让大家全面使用Kimi K3进行研发。
我说:老板,现在Kimi官方API的定价可不便宜,Kimi官方最便宜的49的套餐不支持K3。
最少需要99的套餐。但是99的套餐上下文窗口是256K的,想要正常用100万Token的得买699的套餐。
咱们研发这边目前有几十个人,就算买30个也得每个月2万多。
老板:这么贵吗?我觉得那个99的就挺好用的啊。
我说:其实简单试用一下99的就挺好的,但是咱们研发用最好还是699的。
老板:哦哦,那这个成本确实挺高的。这样吧,咱们等等K3开源以后本地化部署,这样就只花一次钱,不用每个月都充钱了。
你回去写一份计划书,算算成本啥的,回头交给我。
于是乎我一脸懵逼的出了门,心里直呼一种植物的名字。
----------------------
既然你想要那我就给你算算:
Kimi K3 作为一个拥有 2.8 万亿参数的超大规模混合专家(MoE)模型,想要本地化部署完完全全就是一个企业级的工程。
不可能跟之前那个所谓的 DeepSeek 一体机一样,必须得是一个集群。
别的不谈,先说显卡,这是大头。
官方建议至少需要 64张以上加速卡组成的超节点 才能完整部署。
这类超节点通常由 64-1024 张国产加速卡(如华为昇腾910B等)或海外旗舰卡(如 H200、H100)通过高速互联组成,并需要配套 800G/1.6T 高速光模块和液冷散热方案。
咱们这里以 H200 为例,目前来看这个显卡在计算领域绝对领先,141GB显存的H200大概需要64张能够勉强跑通,达到基本可用的状态。
但是因为MoE 模型在推理时需要在专家间进行高频数据同步,网络带宽是决定性能的关键。
所以还需要上NVLink 交换机 / 互联桥,用于实现 GPU 之间的高带宽、低延迟通信。
另外需要至少需要配备 800G 级别的光模块(若条件允许可上 1.6T),用于机架内或跨机架的高速数据传输。
最后还需要支持 RDMA/RoCE 协议的高速以太网交换机,来确保集群内部数据交换不成为瓶颈。
这些东西需要安装在企业级主板上才能用,需要支持多路 PCIe 5.0 且具备多 GPU 插槽(如 8 卡或 4 卡服务器主板)的定制主板,以8卡主板为例,64张H200需要至少8台顶级服务器机箱。
CPU也不能太差了,得双路企业级 CPU,最起码也得Intel Xeon Sapphire Rapids 或 AMD EPYC Genoa 系列,这样才能够提供充足的 PCIe 通道数,避免 CPU 成为数据调度的瓶颈。
内存也不能太小,毕竟百万计的Token上下文。而且除了 GPU 的 HBM,还需要庞大的系统内存来存放 KV Cache 和中间激活值。
所以每台服务器最起码要配备1TB - 2TB 的 DDR5 内存。
有了内存,还得有存储空间。
得用上企业级的固态硬盘,存储高达 1.4TB 的模型权重文件、数据集以及推理时的缓存盘。
这种得上RAID 阵列,每个服务器不低于8TB,并且太差的盘还不行,因为读写 I/O 带宽不能太小了。
机器的主体基本上已经全了,但这还不是全部。
主体有了,还需要散热。
H200 在高负载 MoE 场景下单卡功耗极高,64 张卡聚集在一个机柜内,传统风冷根本不好使。
所以必须要上 冷板式液冷 或 浸没式液冷。
但是机器还得开机啊,开机就需要电源,单机柜可能得160kW,得拆分。
机柜上必须配备企业级钛金电源,这还没说机房改造的事儿哈!(咱们这里默认机房不需要改造。)
好了,到这里基本上都配齐了,杂七杂八的小配件咱们就不算钱了。
总成本需要多少呢?
保守估计3000万!
----------------------
需要注意的是,这个3000万是一次性投入,并不包含耗材的钱和后续使用。
咱们假设公司有高规格的机房,不需要租专业的 IDC 数据中心,并且公司有自己的高带宽网络专线。
这里只算电费,别的都不算。
单张 H200 显卡在满载运行时的功耗约为 700W(0.7kW)
所以,64 张 H200 显卡本身的总功耗为:
64 × 0.7kW = 44.8kW实际机房中除了显卡本身的耗电,还需要考虑服务器主板、CPU、内存、网络交换机以及空调制冷等配套设施的能耗。
数据中心通常用 PUE(电源使用效率)来衡量,国内数据中心的平均 PUE 约为 1.55。
所以,整个集群的实际取电功率需要乘以 1.55 的系数:
44.8kW × 1.55 ≈ 69.44kW。因为工业用电不是家庭用电,咱们以每度 1.5元 为基准,1小时运行的话,电费为:
69.44度电 × 1.5元/度 ≈ 104.16元/小时咱们以全年365天,24小时满载运行为例:
104.16 x 24 x 365 ≈ 91.2万元。就是说一年光电费就91万,这还不算别的,这仅仅是纯电费成本。
----------------------
于是乎我兴冲冲的拿着账单去找老板:老板您看,本地化部署需要的费用也不算很多,仅计算设备成本大约是3000万。不包含场地、机房改造等等费用。
然后,后续投入使用每年的电费成本大概是91万多点儿,这里面不包含耗材和其他设备成本,仅包含电费。
我看着老板的脸色由白转红,又有点儿紫,最后有点儿黑,没说一句话。
沉默良久以后老板开口说:小X啊,这个事儿公司需要开会讨论一下,你把材料留下先回去吧。
走出办公室的一刻,我看着老板拿起那份账单,手不知道为什么有点儿哆嗦。
via 掘金人工智能本月最热 (author: 李剑一)
OpenAI 最近给 ChatGPT 的规矩里,悄悄添了一行新限制——不再完整复刻在世作家的专属文笔。这步调整没有大张旗鼓地宣布,而是静默地写进了功能规则,目的直白:把版权踩雷的空间再压窄一点。
实测下来,这道墙已经立起来了。当用户要求照着某位还在世的作家,去仿写故事开篇、改编经典文本,或者借其行文特点做创作时,ChatGPT 会直接拒绝对方专属文风与语言节奏的完整复刻。比如让它用斯蒂芬·金的笔调写个开头、把《奥德赛》改写成那位恐怖大师的风格,或是模仿谭恩美的腔调落笔,系统都不再接招。它愿意做的,只是借鉴题材、叙事逻辑、氛围塑造这类通用创作要素,去产出真正原创的内容。
有意思的是,这道墙只拦活人。面对查尔斯·狄更斯、欧内斯特·海明威、威廉·莎士比亚这些早已离世的作家,用户提出仿写与风格复刻的需求,ChatGPT 依旧照常响应、照常动笔。
这背后的法理并不复杂。美国现行版权相关法规,保护的只是作者原创的具体文字表达,并不给抽象的写作风格竖起版权的篱笆。业内的判断是,OpenAI 推出这条限制,核心在于主动把潜在的版权纠纷空间压缩掉,给企业的运营风险再降一档——这是人工智能行业在文学创作版权边界上,一次偏防御姿态的合规试探。
当生成式 AI 能越来越像某个人那样说话写字,复刻创作者文风、拿现有作品做二次创作的版权归属,早已是全球 AI 产业与文学领域共同盯紧的焦点。相关的行业规范与法律细则仍在慢慢补齐,而 ChatGPT 这道新墙,不过是这场拉锯里又一块被悄悄垒起的砖。
via AI新闻资讯 (author: AI Base)
OpenAI 重置用量限制,改进 GPT-5.6 Sol 消耗限额过快的问题,明日恢复五小时限额
OpenAI 员工 Tibo 宣布,已重置所有 ChatGPT Work 和 Codex 用户的用量限制,并针对 GPT-5.6 Sol 消耗限额过快的问题推出多项改进。经优化后,典型使用下用量预计可多支撑约 18%,部分用户即日起能看到更大提升;此前因调查而暂停的五小时限额也将于次日恢复。
官方解释称,Sol 更倾向于长时间工作、发起更多工具调用并协调复杂流程,同等推理强度下比 GPT-5.5 消耗更多 token,代码模式的并行调用也推高了用量。官方承认发布前过度关注平均和中位用量,忽视了重度用户的长尾场景,表示本应更早察觉并更坦率沟通。
Tibo(@thsottiaux)
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
OpenAI 员工 Tibo 宣布,已重置所有 ChatGPT Work 和 Codex 用户的用量限制,并针对 GPT-5.6 Sol 消耗限额过快的问题推出多项改进。经优化后,典型使用下用量预计可多支撑约 18%,部分用户即日起能看到更大提升;此前因调查而暂停的五小时限额也将于次日恢复。
官方解释称,Sol 更倾向于长时间工作、发起更多工具调用并协调复杂流程,同等推理强度下比 GPT-5.5 消耗更多 token,代码模式的并行调用也推高了用量。官方承认发布前过度关注平均和中位用量,忽视了重度用户的长尾场景,表示本应更早察觉并更坦率沟通。
Tibo(@thsottiaux)
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
OpenAI近日默默对ChatGPT相关功能规则进行更新,新增针对在世作家文笔模仿创作的限制条款,进一步规避相关法律与版权风险。
实际测试情况显示,当用户提出仿照在世作家文笔、叙事风格进行文学创作、文本改写等需求时,ChatGPT将直接拒绝完整复刻对应作家专属文风、语言表达的请求。例如用户要求以斯蒂芬·金的独特文笔撰写故事开篇、将经典文本《奥德赛》改编为其创作风格版本,或是模仿谭恩美行文特点进行创作,系统均无法完成对应复刻操作。平台仅允许借鉴其作品中的题材、叙事逻辑、氛围塑造等通用创作要素产出原创内容。
与之形成对比的是,针对查尔斯·狄更斯、欧内斯特·海明威、威廉·莎士比亚等已逝世作家,用户提出仿写、风格复刻类需求时,ChatGPT仍可正常响应并开展相关创作。
据了解,美国现行版权相关法律仅对作者原创具体文字表达实施版权保护,并不对抽象的写作风格设置版权壁垒。业内分析认为,OpenAI出台该限制规则,核心目的在于主动压缩潜在版权纠纷空间,降低企业运营过程中的法律风险,是人工智能行业针对文学创作版权边界做出的合规调整尝试。
当前,生成式AI复刻创作者文风、模仿现有作品进行二次创作的版权界定问题,已成为全球人工智能产业与文学创作领域共同关注的焦点,相关行业规范、法律细则仍在持续完善过程中。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球网资讯)
据OpenAI内部披露的信息,该公司旗下聊天机器人周活跃用户量即将突破10亿大关。这一里程碑原本是企业计划在去年年底达成的目标。
尽管比原定预期晚了七个月才有望实现该目标,但ChatGPT上线不足四年就积累如此庞大的用户规模,即便不算增速第一,也属于互联网应用中增长速度最快的产品之一。公司发言人对此未予置评。
ChatGPT用户增长放缓存在多重因素:一方面是谷歌Gemini人工智能的崛起,该模型正持续深度整合坐拥数十亿用户的谷歌网页搜索引擎;另一方面,去年秋季OpenAI推出GPT-5时,周活跃用户增长便出现下滑——这款模型研发过程一波三折,上线后还遭到大量用户诟病。此外,多家调研机构的数据显示,自那以后,Anthropic公司的Claude聊天机器人也分走了一部分聊天机器人市场份额。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
OpenAI 硬件路线图逐渐清晰:首款产品是与 Jony Ive 合作开发的便携式 AI 智能音箱,无屏幕,由 ChatGPT 驱动,售价 200 至 300 美元,预计 2027 年初上市。此外,AI 手机也在推进中,供应链分析师郭明錤称其量产时间已从 2028 年提前至 2027 年上半年,2027 至 2028 年总出货量或达约 3000 万台。
OpenAI 的硬件布局源于以 65 亿美元收购 Ive 创立的 io Products,并已招募超 400 名前苹果员工。苹果于今年 7 月 10 日起诉 OpenAI 涉嫌窃取商业机密,据称诉讼已对 OpenAI 硬件计划造成影响。智能眼镜、智能灯、耳机等产品亦在远期路线图中。
MacRumors
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel