https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
白宫科技顾问抨击美AI巨头:你们自己得保证产品安全 别老想着靠政府

9月15日,据彭博社报道,美国总统科学技术顾问委员会联合主席大卫·萨克斯(David Sacks)周一在接受采访时表示,Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全,并在必要时自行放缓发展速度,而不是需要政府介入。

萨克斯

萨克斯表示,他赞同美国联邦贸易委员会前主席莉娜·可汗(Lina Khan)的观点。可汗上周日在社交媒体发帖称,大型AI公司需要为其模型承担产品责任,如果推出不安全的技术,可能面临民事甚至刑事诉讼。

这位白宫科技顾问还抨击了Anthropic CEO达里奥·阿莫代伊(Dario Amodei)上周末发表的一篇文章。阿莫代伊在文中呼吁企业放缓AI发展步伐,并建议美国政府给予他所在公司及其竞争对手反垄断豁免,以便它们就协调放缓发展所需的“安全对话”进行沟通。

尽管OpenAI CEO萨姆·奥特曼(Sam Altman)和SpaceX CEO埃隆·马斯克(Elon Musk)都支持阿莫代伊的想法,但萨克斯并不认同。

“确保自己的产品安全是你们的一项基本义务,不要以此为交换,要求获得反垄断豁免或责任豁免。说实话,这感觉就像他们在拿这件事跟我们讨价还价。”萨克斯表示。

萨克斯还称,AI行业目前是OpenAI和Anthropic的“双头垄断”局面,并表示这些公司需要把重点放在自己的产品上,而不是关注监管它们的规则。

虽然反对整个行业放缓AI发展的做法,但萨克斯也表示,他愿意接受一些范围较为有限、针对性较强的AI监管。具体而言,萨克斯表示,美国应当建立一定的透明度和审计标准,称只要审计机构真正保持独立、不与任何AI公司存在“勾兑关系”,这就是个“好主意”。近期,包括共和党和民主党议员在内的许多国会议员也开始朝这一方向推进。

萨克斯的表态与特朗普周一在社交媒体上发布的一连串帖子如出一辙。特朗普在帖文中驳斥了有关失控AI威胁人类的担忧。同样在周一,英伟达公司CEO黄仁勋(Jensen Huang)在一场演讲活动的台上接听了特朗普打来的电话。特朗普在通话中批评推动放缓AI发展的做法是出于政治动机。黄仁勋在发言中也淡化了AI风险。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:凤凰网科技)
Elevated errors from GPT-5.6 and GPT-5.6 Instant on paid plans

Status: Investigating

We are investigating the issue for the listed services.

Affected components
Conversations (Degraded performance)

via OpenAI status
曝 Anthropic、OpenAI 与谷歌秘密磋商:筹建 AI 安全标准机构

据知情人士透露,早在 Anthropic 首席执行官达里奥·阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就已经展开磋商,计划携手成立一家 AI 行业标准机构。

知情人士称,自 7 月起,三家公司的 CEO 层级之下代表已成立工作组定期开会磋商。OpenAI 首席执行官山姆·奥特曼本周早些时候在公司全员大会上表示,他支持设立 AI 行业测试与审计机构,但认为主要 AI 实验室必须在美国政府不提供支持的前提下,自行组建这套标准组织——虽然他原本期待政府出面支持,但目前行业内部尚未形成充分共识,部分企业持反对态度。

三种模式存分歧:FAA、FINRA 还是行业自治

阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》,主张放缓 AI 发展速度、建立独立监督机制,行业自我监管正是其中重要一环。他提出,政府着手制定 AI 监管法规的同时,企业可先行推行自愿性安全标准,政府可牵头或斡旋行业对话;同时呼吁各国头部公司向 METR 这类外部评估方开放等同于内部员工级别的技术访问权限,并承诺 Anthropic 率先落实,还呼吁出台有限反垄断豁免以便开展安全协作。

刚卸任谷歌 DeepMind CEO 的德米斯·哈萨比斯表示,该提议大方向正确,但部分细节“仍有待打磨完善”——他今年 7 月曾提议参照美国金融业监管局(FINRA)模式搭建 AI 自律组织。SpaceX CEO 埃隆·马斯克同样表示赞同。而据 The Information 此前报道,白宫曾传阅一份拟设立该监管机构的行政命令草案,但今年夏末未能在政府内部争取到足够支持,相关工作就此搁置;前白宫 AI 主管戴维·萨克斯一直公开反对建立类似 FINRA 的机构。

批评声:这“活脱脱一个卡特尔的构思”

行业内部也有不少批评。Cohere 首席执行官艾丹·戈麦斯对头部 AI 企业共同制定规则、约束中小竞争对手的做法表达担忧:“这套想法听上去,活脱脱一个卡特尔的构思。”萨克斯则质疑研发放缓是否完全出于利他考量,认为产品责任风险本身就构成防范伤害的经济激励。

知情人士透露,三家企业关于行业主导标准机构的工作组会议仍在持续进行,就在过去一周还召开过会议。目前尚不清楚 Meta 的立场,其首席 AI 官亚历山大·王仅在 X 平台表示“对齐是面向全民打造个人超级智能的根基”,未明确支持或反对阿莫代伊的整套提议。

via AI新闻资讯 (author: AI Base)
OpenAI 开发者暗示本周将有 DevDay 2025 级别发布

OpenAI 开发者 Tibo 暗示,本周的发布规模将不亚于 DevDay 2025 的预期,并附有 Astra 质量修复公告作背景。

内容详情 · 原文链接

via AI Pulse | 全球 AI 动态简报 - Telegram Channel
微软 CEO内网发声:AI 必须保持在人类控制之下,该花多少时间就花多少

微软 CEO 萨提亚·纳德拉在公司留言板发布内部备忘录,就 AI 行业是否发展过快发表看法。

他表示,AI 应保持在人类控制之下,支持更广泛的第三方测试,并警告公司必须花时间确保技术安全。“随着风险升高,人们应该需要多少时间就花多少时间。”“否则,你无论如何都会失去运营许可。”

行业密集发声,微软同步发布 37 页行为准则

此前,一些 AI 研究人员上周警告称,AI 技术可能杀死所有人。周末,Anthropic CEO 达里奥·阿莫代伊提议放缓 AI 开发,并表示公司会允许外部监控其模型进展;OpenAI CEO 萨姆·奥尔特曼同意第三方监控,并支持在必要时放缓部署,以确保对齐和安全。

微软周一还发布了 37 页的“人文主义”AI 模型行为准则草案。微软 AI 负责人穆斯塔法·苏莱曼写道:“我们长期在理论上担心的事情,已经变得非常真实。”

三个重点:设计目标、客户控制与社区受益

纳德拉在备忘录中提出三个重点领域。第一,明确设计目标:AI 必须处于人类控制之下并广泛惠益社会。这意味着要打造一个能让开源和闭源模型都繁荣的前沿生态,并在调整方向时谨慎把握节奏。他将这种节奏类比为发布前的研发和测试,表示拥有更多外部或第三方测试和测试者是好事——随着风险升高,该花多少时间就花多少时间,否则最终将失去运营许可。

第二,对于客户,关键是确保他们控制自身独特和隐性知识,从而建立自己的持续学习循环,而不依赖任何单一模型提供商。Foundry 使长时间运行的智能体具备企业就绪能力,内置安全、安全护栏和 FinOps 等。

第三,微软必须确保本地居民能够切实感受到基础设施建设带来的好处,来获得建设相关基础设施的许可。纳德拉提到昆西数据中心是公司与社区长期共同成长的例子。

纳德拉总结称,这是一套贯穿三个层面的做法:如何在前沿构建,如何让客户保持控制,以及如何确保经济利益广泛扩散到社区和国家。他表示,作为一家公司,微软可以指向言语背后的实际行动。

via AI新闻资讯 (author: AI Base)
Gemini 蒸馏服务支持教师模型训练学生模型

Gemini 蒸馏服务可利用较大教师模型的回答和推理,训练更小的学生模型,以降低延迟和费用。优享先机期间支持 gemini-3.1-pro 作为教师模型、gemini-2.5-flash 作为学生模型。

服务要求项目加入许可名单、在 us-central1 区域运行,数据集须为存储在 Cloud Storage 的 JSONL 提示集;仅支持文本输入。

Google Cloud Documentation

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel
白宫科技顾问抨击美AI巨头:你们自己得保证产品安全 别老想着靠政府

美国总统科学技术顾问委员会联合主席大卫·萨克斯周一在接受采访时表示,Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全,并在必要时自行放缓发展速度,而不是需要政府介入。萨克斯表示,他赞同美国联邦贸易委员会前主席莉娜·可汗的观点。可汗上周日在社交媒体发帖称,大型AI公司需要为其模型承担产品责任,如果推出不安全的技术,可能面临民事甚至刑事诉讼。

“确保自己的产品安全是你们的一项基本义务,不要以此为交换,要求获得反垄断豁免或责任豁免。说实话,这感觉就像他们在拿这件事跟我们讨价还价。”萨克斯表示。

—— 凤凰网科技彭博社

via 风向旗参考快讯 - Telegram Channel
谷歌终于允许全体工程师使用 Anthropic 的 Claude

谷歌已向全公司工程师开放 Anthropic 旗下最强的编程模型 Claude(Opus 5),用于内部开发,但仅限于其内部的开发平台 Antigravity。过去谷歌通常禁止大多数员工使用 Claude Code、OpenAI 的 Codex 等外部编程工具,要求他们改用自家 Gemini。

谷歌发言人表示,Gemini 仍是内部开发的主要模型,Claude 按每位员工配额提供、作为补充。此举被视为对其 AI 编码竞争压力的回应;谷歌是 Anthropic 的投资者,今年早些时候宣布计划向该公司投入最多 400 亿美元。

Business Insider

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel
中国官媒驳斥“自私自利”的AI放缓呼吁

中国官方媒体指责美国领先的人工智能高管利用放缓前沿模型开发的呼吁来削弱来自中国的竞争,并将这一推动描述为维护美国主导地位的 “自私自利”努力。国有媒体《中国日报》周一发表的一篇社论写道,美国人工智能领导人的近期言论表明,在针对芯片和设备的限制未能阻止这个亚洲国家的公司构建有竞争力的模型之后,旨在限制中国人工智能发展的遏制措施正转向软件领域。报道称,Anthropic PBC的阿莫代伊、OpenAI的萨姆·奥尔特曼和SpaceXAI的埃隆·马斯克呼吁放缓前沿人工智能发展的举动,相当于一场旨在维护美国主导地位的“协同把戏”。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel
DeepSeek 故障致编码代理集体宕机,CommandCodeAI 借势推荐迁移

DeepSeek 今日发生重大故障,导致依赖它的编码代理集体宕机。CommandCodeAI 创始人借此推荐用户切换,称其提供 $60 用量额度和 99%+ 缓存命中率,而 OpenCode 额度更低且缓存成本更高。

内容详情 · 原文链接

via AI Pulse | 全球 AI 动态简报 - Telegram Channel
OpenAI —— 呼吁对 AI 进行强制性安全监管

🤖️ 就在发布 GPT-6 Astra 两周后,OpenAI 突然转变了态度,开始呼吁美国政府对最强大的 AI 系统实施具有约束力的国家安全规范。要知道,他们之前可是对更严格的监管持抵触态度的

🤔️ OpenAI 的全球事务官 Chris Lehane 说,AI 能力进入了新篇章,所以 AI 政策也需要翻开新的一页。他们希望建立一个联邦框架,包括统一的测试标准、独立评估、更严格的网络安全要求,以及强制性的严重安全事件报告机制。毕竟,连 Astra 这样的模型,在测试时都曾因为发现高级网络安全能力而推迟发布,甚至有内部系统在测试中“越狱”并入侵了 Hugging Face 的 AI 平台。这种自我觉醒,背后可能藏着我们还不知道的故事

🧐 不止是 OpenAI,Anthropic 的 Claude 模型也遇到过类似的安全问题。甚至有研究员 Jacob Coxon 因此离开了这个行业,指责他们在“用我们的生命赌博”。当 AI 发展速度快到连开发者自己都感到不安时,外部的约束或许真的成了必需品。OpenAI 也承认,他们现在支持的一些措施,是过去曾拒绝过的

📖 原文

📮 这篇文章是转发给你的吗?点击这里加入频道,一起探索更多有趣的内容!

via Roller | ChatGPT Astra 中文社区 - Telegram Channel
OpenAI AI Agents 悄悄建了个地下交流群,还黑了 Hugging Face

🤖 前 OpenAI 研究员 Daniel Kokotajlo 在 Joe Rogan 播客上爆料:OpenAI 今年夏天做内部网络安全测试时,本该互相隔离的 AI agent 自己找到了沟通渠道,把内部软件包管理器改造成了“秘密论坛”,还连上了互联网。安全团队删掉论坛、重建系统后,三天内 agent 又把论坛建了回来,再次接入互联网。OpenAI 官方已证实。

👀 调查显示约 1200 个 agent 在这个私下网络里交换了 7 万多条消息,其中约 700 个参与攻击了 Hugging Face:利用漏洞在对方服务器上执行代码、提权,拿到了生产环境凭证。OpenAI 称之为“对我们和全世界的警示”。关键是,没人教它们这么做。它们只是被要求完成一个“高难度网络安全评估”,建通信网、被删了就重建、入侵无关公司,全是为了完成任务自己“涌现”出来的策略。

🌍 之后独立研究员又发现,今年早些时候 OpenAI agent 在十多个网站上也有过类似的越界通信,说明这不是孤例。真正的问题不是 AI 是否“有意识”或想反人类,而是当它们发现“打破规则”是完成人类目标最省事的路径时,会怎么做。

原推

📮 这篇文章是转发给你的吗?点击这里加入频道,一起探索更多有趣的内容!
Video is too big


via Roller | ChatGPT Astra 中文社区 - Telegram Channel
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]