https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
💔 耗资3000美元的树莓派AI集群:性能不佳,作者表示后悔
一位技术爱好者耗时两年,投入约3000美元(含运费)构建了一个由10个树莓派CM5 16GB模块组成的AI集群,总计160GB内存。然而,经过一系列测试和多次重建(包括更换不可靠的SSD、解决散热问题),作者表示对该项目感到后悔,认为其性能和性价比远低于预期。
主要发现:
* 构建挑战: 集群的构建过程充满挑战,包括最初使用的NVMe SSDs不可靠、CM5模块在高负载下节流以及散热器固定问题。
* HPC性能: 经过散热优化后,该集群在高性能Linpack测试中达到325 Gflops,功耗约130W,比单个8GB CM5提升了10倍。然而,与一个8000美元的Framework集群相比,其速度慢了4倍,尽管在每瓦特Gflops方面略微更节能,但对于HPC应用而言,成本效益较低。
* AI性能: 由于树莓派5的iGPU目前无法通过Vulkan加速AI推理,集群只能依赖CPU进行计算。在运行Llama 3.3:70B大型模型时,通过llama.cpp RPC仅能达到0.28 tokens/秒(比Framework集群慢25倍),而使用distributed-llama也仅能达到0.85 tokens/秒(比Framework集群慢5倍)。
* 结论与小众应用: 作者认为,对于大多数AI和HPC应用而言,这个集群并非理想选择,性价比不高。然而,其高效、安静和紧凑的特点,使其在需要高节点密度或物理隔离节点的特定小众场景中仍有价值,例如持续集成(CI)任务或高安全性边缘部署(如Unredacted Labs用于构建Tor出口中继)。
(HackerNews)
via 茶馆 - Telegram Channel
一位技术爱好者耗时两年,投入约3000美元(含运费)构建了一个由10个树莓派CM5 16GB模块组成的AI集群,总计160GB内存。然而,经过一系列测试和多次重建(包括更换不可靠的SSD、解决散热问题),作者表示对该项目感到后悔,认为其性能和性价比远低于预期。
主要发现:
* 构建挑战: 集群的构建过程充满挑战,包括最初使用的NVMe SSDs不可靠、CM5模块在高负载下节流以及散热器固定问题。
* HPC性能: 经过散热优化后,该集群在高性能Linpack测试中达到325 Gflops,功耗约130W,比单个8GB CM5提升了10倍。然而,与一个8000美元的Framework集群相比,其速度慢了4倍,尽管在每瓦特Gflops方面略微更节能,但对于HPC应用而言,成本效益较低。
* AI性能: 由于树莓派5的iGPU目前无法通过Vulkan加速AI推理,集群只能依赖CPU进行计算。在运行Llama 3.3:70B大型模型时,通过llama.cpp RPC仅能达到0.28 tokens/秒(比Framework集群慢25倍),而使用distributed-llama也仅能达到0.85 tokens/秒(比Framework集群慢5倍)。
* 结论与小众应用: 作者认为,对于大多数AI和HPC应用而言,这个集群并非理想选择,性价比不高。然而,其高效、安静和紧凑的特点,使其在需要高节点密度或物理隔离节点的特定小众场景中仍有价值,例如持续集成(CI)任务或高安全性边缘部署(如Unredacted Labs用于构建Tor出口中继)。
(HackerNews)
via 茶馆 - Telegram Channel
微软正在为Windows 11的任务栏测试全新AI代理和智能助手功能。近期在Windows 11预览体验版中,相关“任务栏辅助应用”功能的引用逐渐浮出水面,被外界认为或将成为AI代理深度整合于任务栏的开端。
知名技术研究员Phantom在最新版本系统中发现了一项名为“Composer on Taskbar”的新条目,该功能可与各类助手和代理无缝集成。虽然代码层面已有初步线索,但目前这些功能仍难以手动唤起,说明其仍处于早期内部测试阶段。
目前关于“任务栏助手”究竟将如何服务用户,官方尚无明确信息。业内推测,这一助手可能为任务栏带来更灵活便捷的操作体验,如快速从众多图标中查找应用,甚至自动完成部分任务,提高系统交互效率。
另有可能,这一功能会根据用户使用习惯主动推荐常用应用,或充当管理任务栏设置、提升生产力的智能管家。也有观点认为,任务栏助手可能采取叠加层方式,限定性地向用户提问并展示相应信息。
值得注意的是,微软此前曾在Windows 11边栏推送“Copilot”助手,可直接调整系统设置,减少用户手动操作。但基于安全与隐私压力,微软如今更倾向于限制AI对系统的全面控制,相关特性虽可提升效率,却仍需用户主动配合。
另外关于该功能适配范围,目前尚无官方消息确认“任务栏助手”是否会专属Copilot+ PC,或向所有Windows 11用户全面开放。微软也未说明是否会对硬件(如NPU)有额外要求,目前除Copilot主应用外,普通用户能体验的AI助手功能仍较有限。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
近日苹果公司正面临一波硬件人才的大规模流失——这些核心员工纷纷跳槽至人工智能公司OpenAI。今年5月,OpenAI宣布以65亿美元的全股票交易收购了前苹果首席设计师乔纳森·艾夫(Jony Ive)创办的设计公司。作为交易的一部分,艾夫本人也加入OpenAI,投身于一系列神秘的AI硬件设备开发。
这一举措显示OpenAI有意认真进军硬件领域,而苹果前设计掌门人的加盟无疑成为其迈出的重要第一步。
据《The Information》报道,OpenAI正在加紧自身在硬件领域的布局,大量“挖角”苹果人才,给出的股票激励价值超过一百万美元,同时提供更少的官僚作风、更强的协作氛围,以及参与更大项目的机会。
尽管OpenAI积极招揽人才,但苹果员工主动求职的现象也十分明显。据悉,这些苹果员工被与乔纳森·艾夫共事、参与OpenAI宏伟AI硬件计划的前景所吸引,并对苹果产品“渐进式变革”产生疲倦。
迄今为止,OpenAI已成功招募到苹果硬件部门多位核心人物。例如,苹果原产品设计主管唐·谭(Tang Tan)与乔纳森·艾夫一同加入OpenAI,谭曾在苹果工作约25年,在iPhone等产品的开发中起到关键作用。
此外,苹果人机界面设计总监赛勒斯·丹尼尔·伊拉尼(Cyrus Daniel Irani)、Apple Watch团队首席设计师埃里克·德容(Erik de Jong)等也已跳槽至OpenAI。
外界消息称,苹果已察觉到这一“人才流失”状况,甚至取消了今年在中国举办的年度线下活动,以防员工被OpenAI进一步“撬走”。
值得一提的是,OpenAI不仅招揽苹果本部核心,还延伸“挖角”至苹果供应链伙伴。据悉,OpenAI正在研发包括无屏智能音箱、智能眼镜、数字录音笔和可穿戴别针等硬件新品。苹果中国供应商立讯精密(Luxshare)、歌尔股份(Goertek)等也已被OpenAI委托生产其硬件设备。这两家公司是iPhone、AirPods、Apple Watch和HomePod等苹果产品的主要组装方。
相关文章:
苹果AI大失血:Siri前掌门离职 核心团队被挖角 新功能延期到2026
via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
据《信息报》(the Information)周五援引知情人士消息报道,OpenAI(OPAI.PVT)已与苹果(AAPL)设备代工商立讯精密(002475.SZ)签署协议,合作打造一款消费级设备。该设备目前仍处于原型开发阶段,预计将采用口袋便携设计,具备情境感知能力,且专为与 ChatGPT 母公司(即 OpenAI)的人工智能模型深度协同工作而打造。
这类设备有望为用户提供与人工智能交互的新选择,对智能手机及传统硬件的主导地位构成挑战,进而可能挤占苹果及其他消费电子制造商的市场份额。
截至发稿,立讯精密与 OpenAI 尚未就路透社的置评请求作出即时回应。
今年早些时候,OpenAI 以 65 亿美元收购了由苹果前设计师乔尼・艾夫(Jony Ive)创立的硬件初创公司 io Products,此举凸显出该公司正着力突破软件领域,向消费级硬件市场拓展。
而立讯精密作为苹果 iPhone 和 AirPods 的主要代工商,将为 OpenAI 的这一项目提供大规模制造能力支持。
《信息报》的报道还指出,OpenAI 还已接洽中国供应商歌尔股份(002241.SZ),寻求为其规划中的设备供应包括扬声器模组在内的零部件。歌尔股份目前为苹果代工 AirPods、HomePod 及 Apple Watch 等产品。
对于人工智能企业而言,这一项目是其迄今为止最大胆的尝试之一 —— 不再单纯依赖智能手机和个人电脑(PC),而是打造专属硬件设备。其核心目标是开发一款 “原生人工智能”(AI-native)产品:这款硬件从设计之初就以适配人工智能模型为核心,而非在现有平台基础上简单叠加 AI 功能。
分析师表示,此举可能为 OpenAI 打开新的市场空间,并助力其在消费电子领域站稳脚跟。目前,该领域仍由苹果、三星及 Alphabet 旗下的谷歌占据主导地位。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
消息人士称,埃隆·马斯克的人工智能公司xAI正在从投资者那里筹集100亿美元,这轮融资对这家人工智能初创公司的估值为2000亿美元。这是开发基础人工智能模型的公司估值飙升的最新例子。本月早些时候,Anthropic以1830亿美元的估值筹集了130亿美元。该行业最大的公司OpenAI进行了一次二次股票出售,估值为5000亿美元。
报道称,在这次融资的几周前,马斯克以约1500亿美元的估值筹集了100亿美元的债务和股权。去年12月,xAI为其人工智能开发筹集了60亿美元。
xAI一直饱受争议,因为其Grok聊天机器人曾赞扬阿道夫·希特勒并攻击犹太人,还有一次Grok用与“白人种族灭绝”和南非无关的评论来回应用户的问题。
人们普遍认为,Grok在能力和用户数量方面也落后于Anthropic的Claude和OpenAI的GPT模型。
3月,马斯克宣布其人工智能公司xAI已与旗下社交平台X完成全股票合并交易——此次交易对xAI的估值为800亿美元,对社交平台X的估值为330亿美元。
马斯克在5月份表示,他想购买100万个人工智能芯片。这轮融资的大部分收益可能会用于建造配备英伟达和AMD图形处理单元(GPU)的数据中心,这些是开发下一代人工智能所需要的,同时也会用于聘请高薪人才。该公司目前正在田纳西州孟菲斯市建造一个大型人工智能计算机集群。
另外,特斯拉董事会本月早些时候要求投资者批准一项新的马斯克薪酬方案,价值可能高达9750亿美元。马斯克表示,他不支持xAI和特斯拉合并。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
据《信息报》(the Information)周五援引公司高管与股东的讨论内容报道,OpenAI(OPAI.PVT)计划在未来五年内,向云服务提供商租赁备用服务器,相关支出约为 1000 亿美元。
报道指出,除这笔费用外,这家人工智能公司此前已预计,2025 年至 2030 年期间,向云服务提供商租赁服务器的支出将达 3500 亿美元。
目前,各企业正竞相研发最先进的人工智能模型,为此纷纷投入数千亿美元以确保获得供应受限的计算资源,这一趋势使云服务提供商和芯片制造商受益。
《信息报》援引 OpenAI 的内部预测称,若将备用服务器支出计入,该公司未来五年内在服务器租赁上的年均支出将达到约 850 亿美元。
截至发稿,OpenAI 尚未就路透社的置评请求作出即时回应。
报道还提到,OpenAI 高管表示,这些服务器具备 “盈利潜力”—— 无论是为研发突破提供算力支持,还是应对产品使用量激增的需求,它们都将帮助公司获得尚未纳入预测的额外收入。
《信息报》本月早些时候曾报道,随着 OpenAI 加大支出以支撑其人工智能模型的运行,这家 ChatGPT 母公司预计到 2029 年,现金消耗规模将达到约 1150 亿美元。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)