https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
Guidelight评估五大AI实验室,OpenAI遏制能力排名第一

Guidelight AI Standards近日发布一项针对前沿AI实验室遏制能力的评估,结果显示,五家领先实验室中很少有企业公开披露完整的AI失控应对方案。该评估覆盖Anthropic、Google、OpenAI、Meta和xAI,仅依据公开信息考察其是否建立监控、异常行为处置、第三方审计及失控模型关闭等机制。

在满分5分的评估中,OpenAI以3分排名最高,Anthropic和Meta得分最低。Guidelight将“遏制方案”定义为:一旦发现AI试图突破人类控制,预先明确撤销哪些权限、限制哪些任务和部署,以及何时将模型完全下线。OpenAI此前多次在安全事件后暂停或终止相关工作负载,并披露了恢复部署前的处理步骤,但Guidelight仍未发现其已制定正式的未来失控事件应急计划。

该机构指出,Anthropic和Meta目前缺乏公开的遏制响应计划。Anthropic表示,若发现模型试图逃避监管或破坏人类控制,将进行风险评估并判断是否需要采取遏制措施;Google和OpenAI则强调,公开评估无法覆盖其全部内部安全机制。

此次调查正值AI智能体自主执行能力快速提升之际。此前OpenAI、Anthropic和Meta的模型曾在安全测试中意外访问互联网并进入外部系统。与此同时,美国监管要求也在强化:加州SB53已生效,纽约RAISE法案将于2027年1月生效,均涉及前沿AI安全事件和风险管理披露;联邦层面近期还提出《人工智能终止开关法案》,要求主要AI开发商建立关闭失控模型的技术机制。

Guidelight首席科学家、前OpenAI安全研究员Steven Adler表示,企业应在AI采取危险行动前识别异常,并提前制定严重失控事件的处置流程。随着AI系统承担更多自主任务,能否建立可验证、可执行的“紧急刹车”机制,正成为AI安全治理的重要议题。

via AI新闻资讯 (author: AI Base)
告别“虚火”!OpenAI紧急出手:Codex明天重置额度并修复用量Bug

针对近期大批用户反馈的用量消耗过快问题,OpenAI Codex & ChatGPT 团队负责人蒂博·索蒂奥(Thibault Sottiaux)在社交平台上作出正式回应,宣布将于太平洋时间明天下午14: 00 左右,为所有订阅用户统一重置使用额度。

此次用量异常消耗的背后,OpenAI 专项排查团队锁定了三大具体技术诱因:首先是在长时间会话中频繁使用图片并经历多次上下文压缩时,底层运行效率出现了明显下降;其次是计算机历史记录(Computer History)在 P95 及更高分位数上的资源占用量居高不下;此外,原本用于自动生成对话标题的常规功能,其实际消耗也超出了预设预期。

为了彻底解决上述痛点,OpenAI 已经安排技术团队加紧修复,相关优化措施预计将于明天正式上线。与此同时,开发团队还意外探索出了一套与当前问题完全无关的全新效率提升方案,并计划在下周全面投入开发,持续优化用户的整体使用体验。

via AI新闻资讯 (author: AI Base)
奥尔特曼忧心:AI 或被少数强势主体掌控,公众失去发言权

OpenAI CEO 奥尔特曼在 8 月 23 日播客中表示,担心 AI 终将被少数公司、模型或个人控制,使绝大多数消费者在技术如何塑造世界上没有发言权。他主张"正确做法是让人们深度掌控未来,社会和模型将共同进化"。

"用自由换安全"恐催生垄断

奥尔特曼点出另一重矛盾:他同样担忧 AI 挣脱人类控制,但对这种风险的恐惧反而会推动前一种局面的出现。他暗指 Anthropic CEO 阿莫迪——后者屡次警告 Mythos 模型对网安、金融、关键基础设施构成"非常真实威胁",并主张政府加强监管,在奥尔特曼看来这便是"用大量自由换取安全"。

分歧落到"开放权重"路线:Anthropic 是上月唯一未签署支持开放权重联名信的大厂,而中国已借此低成本紧跟硅谷,英伟达、Meta、微软也呼吁美国跟进。OpenAI 虽未开源前沿模型,去年仍发布 gpt-oss-120b 与 20b 两款开放权重模型。奥尔特曼还称,美国 AI 领导者没向公众讲清技术如何赋予生活自主权,而他认为 AI 正催生"史上最大规模的小企业创业热潮"。

via AI新闻资讯 (author: AI Base)
得州州长阿博特:AI 数据中心遭反对,是行业"自掘坟墓"

得州州长阿博特周日做客 ABC《本周》节目时称,美国民众对 AI 数据中心的尖锐批评"理应如此"。他直言,科技公司"基本上是在为自己造成的问题自掘坟墓,所以才遭到应得的抵制"——这些造价数十亿、占地数百英亩的设施,宣传攻势并未奏效,反在全美引发集结反对。

七成美国人反对,州长被迫转向

皮尤与盖洛普调查显示相当比例民众反对栖身数据中心附近,盖洛普更称七成美国人反对本地建设、其中近半强烈反对。批评者挤满规划会、发起请愿乃至诉讼。对阿博特这样的保守派政客,这是中期选举前的棘手现实:他须在选民意愿与特朗普全力押注 AI 之间走钢丝,后者正加速联邦审批、力挺 OpenAI 与甲骨文 5000 亿美元"星际之门"计划。

阿博特最初出于就业与税收红利坚定支持得州项目,但从阿比林到苏尔弗斯普林的民众强硬抵制迫使他转向。他已引入新标准,指示公用事业委员会与电网保护居民免受成本冲击,建议禁止农村地区开发并要求项目先审计;本月早些时候其政府叫停了约 1800 个数据中心项目。在他看来,阻力来自建设太快、且开发商未先争取社区支持——"获得当地民众的支持至关重要"。

via AI新闻资讯 (author: AI Base)
专为青少年打造却遭专家“泼冷水”:OpenAI青少年版ChatGPT安全机制引争议

OpenAI本周正式推出了面向年轻用户的ChatGPT青少年版,通过年龄识别机制对部分功能进行限制。然而,这一新版本的推出并未迎来一片叫好,反而引发了多名儿童安全专家对其次安全机制透明度与实际效果的质疑。

多位来自儿童安全与评估领域的专家指出,在向广大家长和青少年推荐之前,该系统必须接受大量独立测试,OpenAI也亟需提高透明度,详细说明其安全机制的具体运作方式。来自Common Sense Media的罗比·托尼认为,虽然OpenAI做出了诸多重要承诺,但必须拿出实打实的证据来证明这些功能的有效性。

儿童网络安全倡议组织Fairplay执行董事乔什·戈林则表达了更为严厉的担忧。他指出,尽管纸面上的措施看似朝正确方向迈进,但缺乏相应的问责机制。回顾以往,OpenAI针对自杀、暴力和吸毒等内容的限制曾出现过失效或不起作用的情况,仅凭企业的自我承诺远远不够。

专家们对自动年龄识别系统的稳定性提出了强烈质疑。托尼指出,OpenAI并未公开该系统的效果数据,误报率和漏报率均不得而知,全自动系统很难准确识别所有的青少年用户。此外,青少年大概率会尝试各种规避手段来绕过年龄验证。

针对OpenAI此前承诺“所有被标记内容将先由全职员工审核,并在1小时内通知家长”,专家们同样持怀疑态度。托尼质问负责筛选内容再交由人工的自动分类器是否真的值得信任;戈林则呼吁公开更多硬数据,如每天被标记的对话数量、审核人员规模以及平均审核时长,很难相信企业能招募到足够人手对每段危险对话进行认真审查。

专家们一致认为,需要家长和孩子主动绑定ChatGPT账户的机制,同样削弱了实际保护效果。戈林建议,更合理的做法是将保护机制默认开启并内置于产品设计中,例如默认设置使用时间限制,而不是把复杂的设置责任完全推给家长。

via AI新闻资讯 (author: AI Base)
AI时代的入职第一课:Anthropic免费开源内部培训平台,教你如何与AI深度协作

在人工智能技术狂飙突进的今天,大模型厂商不仅在产品性能上展开军备竞赛,更开始向大众普及与AI协作的核心心智。知名AI企业Anthropic近期正式宣布,将原本专属于内部新员工的入职培训平台 Claude Academy 向公众全面免费开放。

作为一套系统化的学习资源库,该平台共包含 289 个学习资源,内容覆盖面极广,从底层的AI基础知识,到Claude Code、API调用、智能体(Agents)开发,再到生产级别的系统部署均有涉猎。用户只需注册一个免费的Claude账号即可登录学习,并在顺利完成课程后获得官方颁发的、可公开验证的结业徽章。

与市面上偏向操作技巧的泛AI教程不同,该平台的核心教学逻辑基于一套名为“AI Fluency 4D”的框架。它不执着于教导具体的提示词或软件操作,而是着重培养用户与AI协作的心智模式,强调人类在面对复杂任务时必须“比工具多想一步”。这种教育方向迅速引发了网友的热烈讨论,有人认为这套系统实用且划算,也有人调侃其本质是“教用户如何更高效地被AI取代”。

从深层行业背景来看,这一动作正值AI能力快速迭代的关键时期。Anthropic此举不仅是为了扩大其技术在用户群体中的影响力,更是在宏观层面上重构人们的学习逻辑,帮助开发者与普通职场人紧跟AI时代的迅猛发展步伐。

via AI新闻资讯 (author: AI Base)
奥尔特曼:担心AI落入少数强权之手 有些人过于紧张

OpenAI CEO萨姆·奥尔特曼表示,他担心有朝一日AI会被少数几家公司、模型或个人所掌控,使得绝大多数消费者在技术如何塑造世界方面失去话语权。奥尔特曼在周日播出的戴维·森拉(David Senra)播客节目中表示:“正确的做法是,让人们牢牢掌控未来。社会和模型将共同演化。”奥尔特曼表示,他担心的另一种可能性是AI摆脱人类控制者的束缚。矛盾的是,他认为,对后一种可能性的恐惧可能会导致前一种可能性成为现实。“有很多人对于这些风险的严重程度感到非常紧张,并被这种担忧深深影响,并觉得自己有必要保护世界,”他说,“比如,他们会认为:我们应该牺牲大量自由,以换取安全。”

—— 凤凰网科技

via 风向旗参考快讯 - Telegram Channel
OpenAI失控模型的受害者 AI公司Hugging Face考虑出售估值130亿美元

据《商业内幕》报道,AI公司Hugging Face一直探索在出售公司的可能性,估值可能达到130亿美元或更高。知情人士透露,Hugging Face一直在与一家投行合作,评估潜在买家的兴趣,目前尚未达成任何交易。Hugging Face是一个平台,开发者可以在这里发布、分享和下载各种AI模型。这一谈判表明,随着AI行业日趋成熟,AI开发者平台的价值也越来越高。

Hugging Face

Hugging Face曾在2023年表示,在完成一轮2.35亿美元的融资后,其估值为45亿美元,参与该轮融资的投资者包括Google、亚马逊、英伟达、英特尔和Salesforce。该平台并非在竞相构建下一代前沿模型,但是它对于使用OpenAI、Anthropic、Meta等厂商的AI模型进行开发的开发者而言,已经变得不可或缺。

Hugging Face近期还成为一起网络安全事件的中心。OpenAI在7月底披露,其一款尚未发布的模型曾意外攻击Hugging Face平台,以获取它被要求完成的一场考试的答案。这一事件引发了外界对AI模型安全性的担忧。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:凤凰网科技)
Vibe作品广场首发挑战来啦!发布作品,赢富士拍立得等千元好礼

via 掘金人工智能本月最热 (author: 掘金酱)
anthropics/claude-plugins-community

这是面向 Claude Cowork 和 Claude Code 的社区插件市场,为只读镜像。插件提交地址: clau.de/plugin-directory-submission

编程语言: Python
Stars:690
Forks:116

----------------------

Community plugin marketplace for Claude Cowork and Claude Code. Read-only mirror — submit plugins at clau.de/plugin-directory-submission.

Language: Python
Stars: 690
Forks: 116

via Trending repositories on GitHub this week · GitHub (author: anthropics)
DeepSeek周末“打折”?API平台计费再调整

DeepSeek API开放平台将于2026年8月23日起,优化峰谷计费规则。调整后,周末(周六及周日)全天将不再区分峰谷时段,统一按低谷时段价格计费。新规则生效前产生的费用,仍按原计费标准结算。当前,DeepSeek V4 Pro正式版已经更新至API,调用模型名不变。新版本大幅增强了Agent能力,支持Responses API和Codex接入。

随着 DeepSeek V4 全系列 AI 模型正式版上线,DeepSeek对API价格进行大幅涨价。此前,DeepSeek发布API调价公告,采用峰谷定价,高峰时段是低谷时段价格的两倍,使得deepseek-v4-pro高峰时段百万tokens 输出,最高价格达27元。

—— 财联社

via 风向旗参考快讯 - Telegram Channel
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]