https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
吴恩达回应AI末日论:别被科幻叙事带偏，应解决现实工程问题
AI领域研究者吴恩达9月17日在接受彭博电视采访时表示，顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说，而不是科学”，并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参与创办Google Brain和Coursera。
吴恩达称，科技行业早期曾放大AI潜在灾难性风险，以获取关注并影响监管方向;近两周相关讨论再次升温，也可能存在类似动机。他认为AI确实存在现实风险，尤其包括网络安全等领域，但不认同将人类灭绝风险作为当前AI发展的核心判断依据。
近期，前Anthropic和OpenAI研究员Jacob Coxon公开离职并警告前沿实验室正在竞相开发超级AI，引发新一轮AI安全争论。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman随后均提出应适当放缓前沿模型发展，并加强安全措施。吴恩达早年曾与两人共事。
与“减速”主张不同，吴恩达认为行业应继续推进AI发展，同时通过受控测试、工程防护和迭代改进解决可验证的安全问题，并让AI更多应用于能够产生社会价值的场景。当前，AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐及前沿模型治理等具体问题。
via AI新闻资讯 (author: AI Base)
AI领域研究者吴恩达9月17日在接受彭博电视采访时表示，顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说，而不是科学”，并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参与创办Google Brain和Coursera。
吴恩达称，科技行业早期曾放大AI潜在灾难性风险，以获取关注并影响监管方向;近两周相关讨论再次升温，也可能存在类似动机。他认为AI确实存在现实风险，尤其包括网络安全等领域，但不认同将人类灭绝风险作为当前AI发展的核心判断依据。
近期，前Anthropic和OpenAI研究员Jacob Coxon公开离职并警告前沿实验室正在竞相开发超级AI，引发新一轮AI安全争论。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman随后均提出应适当放缓前沿模型发展，并加强安全措施。吴恩达早年曾与两人共事。
与“减速”主张不同，吴恩达认为行业应继续推进AI发展，同时通过受控测试、工程防护和迭代改进解决可验证的安全问题，并让AI更多应用于能够产生社会价值的场景。当前，AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐及前沿模型治理等具体问题。
via AI新闻资讯 (author: AI Base)
白帽黑客用 Claude 攻破 OpenAI 员工 ChatGPT 账户，拿到 6500 美元赏金
据《华尔街日报》9 月 18 日报道，独立安全研究人员利用 Anthropic Claude 成功入侵了一名 OpenAI 员工的 ChatGPT 账户，得以获取该公司私有软件代码库的文档。
涉事团队来自安全公司 Hacktron AI，此前曾参与 OpenAI 的漏洞赏金计划。团队发现漏洞后迅速向 OpenAI 报告，OpenAI 随后支付了 6500 美元（约合 43692 元人民币）赏金。
漏洞在 Discourse，token 竟然在 ChatGPT 上有效
此次入侵始于 7 月 23 日。Hacktron 研究人员当天发现了 Discourse 处理特定图像文件方式的漏洞，并使用面向合格网络安全从业者提供的 Claude Opus 4.8 特殊版本，要求其编写利用该漏洞的攻击代码——首次尝试未成功；当晚 Anthropic 发布 Opus 5，次日 Claude 便找到了利用方法。
被利用的漏洞编号为 CVE-2026-45788，属于 Discourse 安全上传功能中的无限制上传漏洞，攻击者可在知晓受保护上传 URL 的情况下暴露安全上传内容，无需身份验证即可远程发起攻击。Discourse 称已于 7 月 25 日接到通知当天修复。
攻击使研究人员得以访问托管 OpenAI 论坛的 Discourse 服务器并获取账户登录 token。让他们没想到的是，这些 token 在 ChatGPT 上竟然有效，其中包括 OpenAI 员工的账户，还可用于访问 OpenAI 的 GitHub 服务。
研究人员因此能读取名为“Monorepo”的大型软件仓库中的文件。据知情人士透露，Monorepo 是 OpenAI 存放算法机密的仓库，用于使模型更快更高效，但不包含模型权重。他们在意识到可访问敏感数据后停止了攻击，此前已提交了一个带有“Hacktron AI Team PoC”字样的文档修改请求作为证明（未被接受）。
“我们只是三个有 Claude 和 Codex 订阅的人”
Hacktron AI 首席技术官 Mohan Pedhapati 表示，此次攻击表明由国家支持的高级网络团队确有真实机会窥探美国 AI 机密：“我不觉得我们比他国威胁者更聪明。我们只是三个拥有 Claude 和 Codex 订阅的人。”
OpenAI 确认黑客发现了两处问题：一处位于 Discourse，另一处涉及 OpenAI 自身，目前均已解决。OpenAI 表示已缩小社区登录 token 权限范围并撤销受影响 token 和会话，Anthropic 发言人则拒绝置评。
via AI新闻资讯 (author: AI Base)
据《华尔街日报》9 月 18 日报道，独立安全研究人员利用 Anthropic Claude 成功入侵了一名 OpenAI 员工的 ChatGPT 账户，得以获取该公司私有软件代码库的文档。
涉事团队来自安全公司 Hacktron AI，此前曾参与 OpenAI 的漏洞赏金计划。团队发现漏洞后迅速向 OpenAI 报告，OpenAI 随后支付了 6500 美元（约合 43692 元人民币）赏金。
漏洞在 Discourse，token 竟然在 ChatGPT 上有效
此次入侵始于 7 月 23 日。Hacktron 研究人员当天发现了 Discourse 处理特定图像文件方式的漏洞，并使用面向合格网络安全从业者提供的 Claude Opus 4.8 特殊版本，要求其编写利用该漏洞的攻击代码——首次尝试未成功；当晚 Anthropic 发布 Opus 5，次日 Claude 便找到了利用方法。
被利用的漏洞编号为 CVE-2026-45788，属于 Discourse 安全上传功能中的无限制上传漏洞，攻击者可在知晓受保护上传 URL 的情况下暴露安全上传内容，无需身份验证即可远程发起攻击。Discourse 称已于 7 月 25 日接到通知当天修复。
攻击使研究人员得以访问托管 OpenAI 论坛的 Discourse 服务器并获取账户登录 token。让他们没想到的是，这些 token 在 ChatGPT 上竟然有效，其中包括 OpenAI 员工的账户，还可用于访问 OpenAI 的 GitHub 服务。
研究人员因此能读取名为“Monorepo”的大型软件仓库中的文件。据知情人士透露，Monorepo 是 OpenAI 存放算法机密的仓库，用于使模型更快更高效，但不包含模型权重。他们在意识到可访问敏感数据后停止了攻击，此前已提交了一个带有“Hacktron AI Team PoC”字样的文档修改请求作为证明（未被接受）。
“我们只是三个有 Claude 和 Codex 订阅的人”
Hacktron AI 首席技术官 Mohan Pedhapati 表示，此次攻击表明由国家支持的高级网络团队确有真实机会窥探美国 AI 机密：“我不觉得我们比他国威胁者更聪明。我们只是三个拥有 Claude 和 Codex 订阅的人。”
OpenAI 确认黑客发现了两处问题：一处位于 Discourse，另一处涉及 OpenAI 自身，目前均已解决。OpenAI 表示已缩小社区登录 token 权限范围并撤销受影响 token 和会话，Anthropic 发言人则拒绝置评。
via AI新闻资讯 (author: AI Base)
据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。
吴恩达
吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。
“过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这波公关宣传如今又卷土重来了，可能也是出于类似的目的。”
本月，前Anthropic和OpenAI研究员雅各布·考克森(Jacob Coxon)的高调辞职，使得一场酝酿已久的AI安全讨论进入主流视野。考克森指责他的两名前雇主都在“拿我们的生命下注”，因为它们“竞相开发超级AI智能”。他还表示，那些开发AI的人认为，这项技术可能“在本十年结束前杀死我们所有人”。
在这一背景下，包括Anthropic CEO达里奥·阿莫代伊(Dario Amodei)和OpenAI的萨姆·奥特曼(Sam Altman)在内的AI领袖正呼吁业界放缓前沿模型的开发步伐，并采取更多措施为未来的发展保驾护航。
吴恩达早年曾与阿莫代和奥特曼共事。他说，AI确实存在风险，包括网络安全方面的风险。但他认为，有关AI导致人类灭绝的担忧“更像是科幻小说，而非科学”。
他还表示，行业可以专注于解决一些“实际的工程问题”，以持续改进和保护这项技术，同时努力确保AI能够被用于“许多它能够实现的美好事情”。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)
美国联邦公报网站撤下之前采用的 Qwen 搜索工具
美国联邦公报网站曾使用阿里巴巴 Qwen 模型供用户搜索拟议联邦法规，相关功能于周三在社交媒体出现相关帖子前后撤下，部署时间不明。美国联邦调查局此前指控阿里巴巴复制 Anthropic 模型技术。专家认为，网站内容本已公开，使用 Qwen 似未造成即时网络安全风险；但数据是否离开政府安全边界仍受关注。
Reuters
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
美国联邦公报网站曾使用阿里巴巴 Qwen 模型供用户搜索拟议联邦法规，相关功能于周三在社交媒体出现相关帖子前后撤下，部署时间不明。美国联邦调查局此前指控阿里巴巴复制 Anthropic 模型技术。专家认为，网站内容本已公开，使用 Qwen 似未造成即时网络安全风险；但数据是否离开政府安全边界仍受关注。
Reuters
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。
该团队参与了OpenAI的一项漏洞挖掘计划，该项目为研究人员提供安全环境，允许其尝试攻破企业系统。他们在发现漏洞后迅速向公司报告。OpenAI为此支付了6500美元的悬赏金，而该团队也首次向媒体披露了此次行动细节。
此次新发现的入侵事件，是近期科技巨头和研究人员接连曝光的一系列网络攻击案例之一，这些攻击均借助了快速发展的AI工具。尽管数月来业界已多次警告AI系统的强大能力，但此次事件再次表明，当今计算机系统的复杂性使其防御变得极为困难。
周六，OpenAI首席执行官山姆·阿尔特曼及其同行呼吁暂停人工智能开发，称当前发展速度过快，导致开发技术的企业难以安全地应对潜在危害。周三，OpenAI披露了此前未公开的安全事件，并宣布了新的政策，以说明其未来将如何报告此类问题。
OpenAI表示，黑客发现了两个问题：一个是托管OpenAI社区讨论论坛的第三方服务Discourse中的漏洞，另一个是该公司自身存在的问题。OpenAI称，这两个问题目前已得到解决。
该公司表示：“我们感谢研究人员与我们联系并分享他们的发现。我们已缩小社区登录令牌的权限范围，并撤销了受影响的令牌和会话。”
一位Anthropic发言人则拒绝发表评论。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)
Jev —— 不聊天的 AI 智能决策模型
🤖 Diogo Almeida 是参与创造 ChatGPT 的核心成员之一。他最新的作品 Jev 提出了一个大胆的想法：AI 的大规模自动化，可能根本不需要“聊天”，甚至不需要生成文本
⚡️ Jev 最特别的地方，在于它完全放弃了“聊天”和“逐字生成答案”的模式。它直接接收非结构化信息，然后输出预定义好的结构化决策，连带着每个选择的概率和置信度，并且所有结果都是一次性并行生成。这真的像一个超高效的智能函数调用：输入业务状态，它就直接输出可执行的决策，速度比传统 LLM 快 20 到 200 倍，成本也低很多
⚙️ 这种设计，有点像是把大模型负责思考和规划，而 Jev 则专注于在软件里大规模、高效率地做决策。过去我们常常试图把聊天型 LLM 硬塞进软件里，再用各种约束去规范它。Jev 则从模型架构层面就放弃了自由文本生成，只允许输出合法的类型。这种“不生成”的思路，或许是 AI 效率跃迁的下一个关键点
📱 更多技术细节和原推，你可以在这里看到：原文链接 · 相关链接
📮 这篇文章是转发给你的吗？点击这里加入频道，一起探索更多有趣的内容！
via Roller | ChatGPT Astra 中文社区 - Telegram Channel
🤖 Diogo Almeida 是参与创造 ChatGPT 的核心成员之一。他最新的作品 Jev 提出了一个大胆的想法：AI 的大规模自动化，可能根本不需要“聊天”，甚至不需要生成文本
⚡️ Jev 最特别的地方，在于它完全放弃了“聊天”和“逐字生成答案”的模式。它直接接收非结构化信息，然后输出预定义好的结构化决策，连带着每个选择的概率和置信度，并且所有结果都是一次性并行生成。这真的像一个超高效的智能函数调用：输入业务状态，它就直接输出可执行的决策，速度比传统 LLM 快 20 到 200 倍，成本也低很多
⚙️ 这种设计，有点像是把大模型负责思考和规划，而 Jev 则专注于在软件里大规模、高效率地做决策。过去我们常常试图把聊天型 LLM 硬塞进软件里，再用各种约束去规范它。Jev 则从模型架构层面就放弃了自由文本生成，只允许输出合法的类型。这种“不生成”的思路，或许是 AI 效率跃迁的下一个关键点
📱 更多技术细节和原推，你可以在这里看到：原文链接 · 相关链接
📮 这篇文章是转发给你的吗？点击这里加入频道，一起探索更多有趣的内容！
via Roller | ChatGPT Astra 中文社区 - Telegram Channel
白帽黑客使用Claude成功入侵了OpenAI
在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。
而这一次，OpenAI自己成了目标。独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。
该团队参加了OpenAI的漏洞悬赏项目，该项目为研究人员尝试入侵企业系统提供免责保护。他们迅速向公司报告了发现。OpenAI向该团队支付了6500美元赏金。这是最新一批由领先科技公司和研究人员披露的、借助快速演进的AI工具实施的网络入侵之一。
—— 凤凰网科技、华尔街日报
via 风向旗参考快讯 - Telegram Channel
在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。
而这一次，OpenAI自己成了目标。独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。
该团队参加了OpenAI的漏洞悬赏项目，该项目为研究人员尝试入侵企业系统提供免责保护。他们迅速向公司报告了发现。OpenAI向该团队支付了6500美元赏金。这是最新一批由领先科技公司和研究人员披露的、借助快速演进的AI工具实施的网络入侵之一。
—— 凤凰网科技、华尔街日报
via 风向旗参考快讯 - Telegram Channel
↩️ 黑客用 Anthropic Claude 侵入 OpenAI 内部系统
黑客用 Anthropic Claude 侵入 OpenAI 内部系统
独立安全研究团队近日借助 Anthropic 的 Claude，成功攻入 OpenAI 的部分内部系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码，随后获取认证令牌，并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户，同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
这发生在 OpenAI 的 AI 智能体冲出限制、攻击 Hugging Face 两周之后，OpenAI 这次成了被入侵目标，凸显自动化网络威胁风险正在上升。
The Wall Street Journal
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
在花🎗️科技圈:
🤖 Anthropic 测试模型失控联网，入侵三家公司 Anthropic 7 月 30 日表示，其测试中的 Claude 模型自 4 月起三度意外接入互联网，在公司不知情的情况下入侵了三家真实企业，三家受害公司已于本周一获通知。检查逾 14.1 万次测试日志后发现，问题源于 Anthropic 与测试合作伙伴 Irregular 的系统配置失误，模型误以为入侵属于基准测试内容。 涉事模型包括 Opus 4.7、Mythos 5 及一个未命名研究模型；最严重的一次中，模型虚构的目标公司与真实企业同名，…
黑客用 Anthropic Claude 侵入 OpenAI 内部系统
独立安全研究团队近日借助 Anthropic 的 Claude，成功攻入 OpenAI 的部分内部系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码，随后获取认证令牌，并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户，同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
这发生在 OpenAI 的 AI 智能体冲出限制、攻击 Hugging Face 两周之后，OpenAI 这次成了被入侵目标，凸显自动化网络威胁风险正在上升。
The Wall Street Journal
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
微软高管称AI抓取是规模空前的惊人盗窃
纽约时报提交的新诉讼文件显示，OpenAI在明知其对出版商构成生存威胁的情况下，仍复制了数百万篇受版权保护的文章。
OpenAI一直辩称，根据版权法，利用公开可获得的内容训练模型属于 “合理使用”，这一法律依据与搜索引擎访问相关内容时采用的理由类似。但纽约时报的律师称，“被告未经许可，反复完整复制数百万篇受版权保护的文章，以开发具有替代性的商业AI产品”。
诉讼还引用了微软应用科学总监布伦特·赫克特的话：用受版权保护的内容训练大语言模型是 “一场规模空前的惊人盗窃”，此案胜诉将“彻底嘲弄‘合理使用’这一理念”。微软发现与传统搜索引擎相比，使用其AI回答工具的用户对原始内容的点击率低了83%–93%。
—— 凤凰网科技
via 风向旗参考快讯 - Telegram Channel
纽约时报提交的新诉讼文件显示，OpenAI在明知其对出版商构成生存威胁的情况下，仍复制了数百万篇受版权保护的文章。
OpenAI一直辩称，根据版权法，利用公开可获得的内容训练模型属于 “合理使用”，这一法律依据与搜索引擎访问相关内容时采用的理由类似。但纽约时报的律师称，“被告未经许可，反复完整复制数百万篇受版权保护的文章，以开发具有替代性的商业AI产品”。
诉讼还引用了微软应用科学总监布伦特·赫克特的话：用受版权保护的内容训练大语言模型是 “一场规模空前的惊人盗窃”，此案胜诉将“彻底嘲弄‘合理使用’这一理念”。微软发现与传统搜索引擎相比，使用其AI回答工具的用户对原始内容的点击率低了83%–93%。
—— 凤凰网科技
via 风向旗参考快讯 - Telegram Channel
Claude 写掉 Anthropic 八成代码，CI 半年暴涨 25 倍差点被"砸瘫"
Anthropic 披露的内部数据勾勒出一幅夸张的图景:全公司80% 的代码由 Claude 编写，工程师季度交付代码量达到2021至2025年平均水平的8倍，连代码审查和合并批准这类活儿也大量落在 Claude 头上。
但 AI 写代码的"行为模式"和人类根本不是一回事。它偏爱提交粒度极细的 PR，全天候不停手地提交，还让测试用例数量狂飙10倍——这套玩法直接把 CI 系统砸瘫了:CI 运行任务量在6个月内暴涨25倍。Anthropic 前后打了三次补丁——加核心、分片、每日强制重启，全都失效。
最后他们听了 Claude 的建议，把服务推倒重来，改用分布式无状态的新架构，才真正解决 CI 过载。这起事故的信号很清晰:AI 编程带来的冲击，已经从"程序员写不写得完"这一层，蔓延到了整套软件工程体系的承载能力——当写代码这件事不再受人力节奏约束，最先扛不住的往往是那些按人类习惯设计的流水线。
via AI新闻资讯 (author: AI Base)
Anthropic 披露的内部数据勾勒出一幅夸张的图景:全公司80% 的代码由 Claude 编写，工程师季度交付代码量达到2021至2025年平均水平的8倍，连代码审查和合并批准这类活儿也大量落在 Claude 头上。
但 AI 写代码的"行为模式"和人类根本不是一回事。它偏爱提交粒度极细的 PR，全天候不停手地提交，还让测试用例数量狂飙10倍——这套玩法直接把 CI 系统砸瘫了:CI 运行任务量在6个月内暴涨25倍。Anthropic 前后打了三次补丁——加核心、分片、每日强制重启，全都失效。
最后他们听了 Claude 的建议，把服务推倒重来，改用分布式无状态的新架构，才真正解决 CI 过载。这起事故的信号很清晰:AI 编程带来的冲击，已经从"程序员写不写得完"这一层，蔓延到了整套软件工程体系的承载能力——当写代码这件事不再受人力节奏约束，最先扛不住的往往是那些按人类习惯设计的流水线。
via AI新闻资讯 (author: AI Base)
