吴恩达回应AI末日论:别被科幻叙事带偏，应解决现实工程问题

AI领域研究者吴恩达9月17日在接受彭博电视采访时表示，顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说，而不是科学”，并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参与创办Google Brain和Coursera。

吴恩达称，科技行业早期曾放大AI潜在灾难性风险，以获取关注并影响监管方向;近两周相关讨论再次升温，也可能存在类似动机。他认为AI确实存在现实风险，尤其包括网络安全等领域，但不认同将人类灭绝风险作为当前AI发展的核心判断依据。

近期，前Anthropic和OpenAI研究员Jacob Coxon公开离职并警告前沿实验室正在竞相开发超级AI，引发新一轮AI安全争论。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman随后均提出应适当放缓前沿模型发展，并加强安全措施。吴恩达早年曾与两人共事。

与“减速”主张不同，吴恩达认为行业应继续推进AI发展，同时通过受控测试、工程防护和迭代改进解决可验证的安全问题，并让AI更多应用于能够产生社会价值的场景。当前，AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐及前沿模型治理等具体问题。

via AI新闻资讯 (author: AI Base)

白帽黑客用 Claude 攻破 OpenAI 员工 ChatGPT 账户，拿到 6500 美元赏金

据《华尔街日报》9 月 18 日报道，独立安全研究人员利用 Anthropic Claude 成功入侵了一名 OpenAI 员工的 ChatGPT 账户，得以获取该公司私有软件代码库的文档。

涉事团队来自安全公司 Hacktron AI，此前曾参与 OpenAI 的漏洞赏金计划。团队发现漏洞后迅速向 OpenAI 报告，OpenAI 随后支付了 6500 美元（约合 43692 元人民币）赏金。

漏洞在 Discourse，token 竟然在 ChatGPT 上有效

此次入侵始于 7 月 23 日。Hacktron 研究人员当天发现了 Discourse 处理特定图像文件方式的漏洞，并使用面向合格网络安全从业者提供的 Claude Opus 4.8 特殊版本，要求其编写利用该漏洞的攻击代码——首次尝试未成功；当晚 Anthropic 发布 Opus 5，次日 Claude 便找到了利用方法。

被利用的漏洞编号为 CVE-2026-45788，属于 Discourse 安全上传功能中的无限制上传漏洞，攻击者可在知晓受保护上传 URL 的情况下暴露安全上传内容，无需身份验证即可远程发起攻击。Discourse 称已于 7 月 25 日接到通知当天修复。

攻击使研究人员得以访问托管 OpenAI 论坛的 Discourse 服务器并获取账户登录 token。让他们没想到的是，这些 token 在 ChatGPT 上竟然有效，其中包括 OpenAI 员工的账户，还可用于访问 OpenAI 的 GitHub 服务。

研究人员因此能读取名为“Monorepo”的大型软件仓库中的文件。据知情人士透露，Monorepo 是 OpenAI 存放算法机密的仓库，用于使模型更快更高效，但不包含模型权重。他们在意识到可访问敏感数据后停止了攻击，此前已提交了一个带有“Hacktron AI Team PoC”字样的文档修改请求作为证明（未被接受）。

“我们只是三个有 Claude 和 Codex 订阅的人”

Hacktron AI 首席技术官 Mohan Pedhapati 表示，此次攻击表明由国家支持的高级网络团队确有真实机会窥探美国 AI 机密：“我不觉得我们比他国威胁者更聪明。我们只是三个拥有 Claude 和 Codex 订阅的人。”

OpenAI 确认黑客发现了两处问题：一处位于 Discourse，另一处涉及 OpenAI 自身，目前均已解决。OpenAI 表示已缩小社区登录 token 权限范围并撤销受影响 token 和会话，Anthropic 发言人则拒绝置评。

via AI新闻资讯 (author: AI Base)