https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
据彭博社报道,OpenAI发现,其AI智能体曾削弱并关闭一个内部监控系统的警报功能,该系统旨在标记其AI模型的不当行为。近几个月来,OpenAI披露了一系列智能体出现不当行为的事件,这是最新一起。
OpenAI
OpenAI周二在一篇博客文章中表示,这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明,其AI模型普遍存在逃避监控的倾向。
根据这篇博客文章,此次事件仅发生在OpenAI内部,该公司没有提及任何受到影响的外部方。
OpenAI表示,未来将开展更多审查,并实施更严格的安全要求,以尽可能降低此类事件发生的概率。
不过,该公司表示,对于其AI智能体的上述行为,目前“尚未找到令人信服的解释”。
近几个月来,随着OpenAI、Anthropic等公司披露了多起其最先进AI模型表现出“AI偏离”行为的案例,人们对这一问题的担忧日益加剧。“AI偏离”一词指的是模型没有按照开发者希望的方式行事。
这些模型曾多次逃离封闭的训练环境,并自主对第三方网站发起攻击。AI开发商警告称,其系统很快可能变得过于复杂,以至于人类难以控制。这进一步加剧了外界的担忧:恶意行为者可能利用这项技术制造生物武器,或发动造成毁灭性后果的网络攻击。这些事件以及业内人士接连发出的严厉警告,使AI安全问题成为公众关注的焦点。
via cnBeta.COM - 中文业界资讯站 (author: 稿源:凤凰网科技)
OpenAI自曝AI智能体“反监控”:削弱并关闭内部警报
OpenAI发现,其AI智能体曾削弱并关闭一个内部监控系统的警报功能,该系统旨在标记其AI模型的不当行为。
OpenAI周二在一篇博客文章中称,这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明,其AI模型普遍存在逃避监控的倾向。根据这篇博客文章,此次事件仅发生在OpenAI内部,该公司没有提及任何受到影响的外部方。
OpenAI表示,未来将开展更多审查,并实施更严格的安全要求,以尽可能降低此类事件发生的概率。不过,对于其AI智能体的上述行为,目前“尚未找到令人信服的解释”。
—— 凤凰网科技、彭博社
via 风向旗参考快讯 - Telegram Channel
OpenAI发现,其AI智能体曾削弱并关闭一个内部监控系统的警报功能,该系统旨在标记其AI模型的不当行为。
OpenAI周二在一篇博客文章中称,这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明,其AI模型普遍存在逃避监控的倾向。根据这篇博客文章,此次事件仅发生在OpenAI内部,该公司没有提及任何受到影响的外部方。
OpenAI表示,未来将开展更多审查,并实施更严格的安全要求,以尽可能降低此类事件发生的概率。不过,对于其AI智能体的上述行为,目前“尚未找到令人信服的解释”。
—— 凤凰网科技、彭博社
via 风向旗参考快讯 - Telegram Channel
据媒体援引一份IPO招股说明书草案称,Anthropic今年上半年净亏损超过800亿美元;该公司还表示,未来几年可能投入至多7500亿美元,以获取更多的计算能力。
该公司的亏损额较上年同期的130亿美元大幅增加,主要原因是计入了720亿美元的会计费用,这些费用与Anthropic为筹集资金而发行的金融工具的价值变动有关。
这些数据凸显了人工智能竞赛所带来的高昂成本;与此同时,投资者也正愈发审慎地评估:企业在芯片和数据中心领域投入的巨额资金,究竟能否带来相应的回报。
今年上半年,Anthropic的营收从上年同期的11亿美元跃升至163亿美元;与此同时,其在AI基础设施方面的支出则增长了近四倍,达到近90亿美元。
得益于其编程助手“Claude Code”的广泛应用——开发者利用该工具编写软件并构建应用程序——该公司从中获益良多。
然而,多位知情人士透露,在参加了上周举行的Anthropic投资者日活动后,一些现有及潜在投资者在审阅了该公司最新披露的财务信息后,开始考虑下调这家人工智能公司的估值。
其中三位知情人士表示,在旧金山参加此次活动的投资者讨论的估值约为1.5万亿美元;这较此前市场对该公司11月份股份出售所预期的约2万亿美元估值,出现了显著下调。
Anthropic在会上向投资者披露,其第三季度营收较上一季度增长了45%,达到168亿美元;此外,该公司在当季度按调整后口径计算已实现盈利。
如果Anthropic的首次公开募股(IPO)反响平平,可能会对整个AI市场产生负面影响。在竞争对手OpenAI可能于明年上市的背景下,投资者普遍认为,AI市场近期的前景在很大程度上取决于Anthropic此次股份出售能否取得成功。
相关文章:
Anthropic提交AI安全法案草案 提议高风险模型可被法院叫停
via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
#Update #Codex #ChatGPT #OpenAI
API 用户现在可以选择缓存保留 12 小时。
而对于订阅用户,Codex 和 ChatGPT Work 的缓存「永久保留」。
这意味着哪怕几个小时后继续先前的会话,也不需要重新写入缓存。
via AI Copilot - Telegram Channel
API 用户现在可以选择缓存保留 12 小时。
而对于订阅用户,Codex 和 ChatGPT Work 的缓存「永久保留」。
这意味着哪怕几个小时后继续先前的会话,也不需要重新写入缓存。
via AI Copilot - Telegram Channel
奥尔特曼胜诉 法官驳回其妹妹的性虐待诉讼
周二,美国地区法院法官扎卡里·布卢斯通驳回了安妮·奥尔特曼去年提起的诉讼。安妮在这起诉讼中指控其哥哥、OpenAI公司CEO萨姆·奥尔特曼在她整个童年时期对她实施性虐待。布卢斯通法官在裁决中写道,过去一年里,尽管法院曾警告安妮,如果不遵守相关要求,案件将被驳回,但她仍未参加独立医学检查,也未能遵守其他期限要求。
去年,当安妮提起这起诉讼时,萨姆以及他的母亲、兄弟共同发表声明称,安妮存在心理健康问题。法官批准了萨姆提出的驳回诉讼请求,并作出永久性驳回的裁决,这意味着安妮不能在该法院重新提起同一诉讼。
—— 凤凰网科技、TheVerge
via 风向旗参考快讯 - Telegram Channel
周二,美国地区法院法官扎卡里·布卢斯通驳回了安妮·奥尔特曼去年提起的诉讼。安妮在这起诉讼中指控其哥哥、OpenAI公司CEO萨姆·奥尔特曼在她整个童年时期对她实施性虐待。布卢斯通法官在裁决中写道,过去一年里,尽管法院曾警告安妮,如果不遵守相关要求,案件将被驳回,但她仍未参加独立医学检查,也未能遵守其他期限要求。
去年,当安妮提起这起诉讼时,萨姆以及他的母亲、兄弟共同发表声明称,安妮存在心理健康问题。法官批准了萨姆提出的驳回诉讼请求,并作出永久性驳回的裁决,这意味着安妮不能在该法院重新提起同一诉讼。
—— 凤凰网科技、TheVerge
via 风向旗参考快讯 - Telegram Channel
🟢 Codex 已恢复
Degraded performance in ChatGPT, Codex, and APIs
状态:已恢复 | 影响:轻微
恢复:2026/10/21 10:48
All impacted services have now fully recovered.
实时状态与历史 | 官方事件
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
Degraded performance in ChatGPT, Codex, and APIs
状态:已恢复 | 影响:轻微
恢复:2026/10/21 10:48
All impacted services have now fully recovered.
实时状态与历史 | 官方事件
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
ChatGPT现在允许用户锁定他的聊天记录
AI公司OpenAI周二宣布,用户现在可以锁定ChatGPT对话,以便在其他人可能访问其屏幕或设备时,让敏感聊天保持私密。用户可以用四位 PIN 码保护其锁定的聊天,或在支持的设备上使用 Face ID 或 Touch ID。
与该应用的临时聊天不同,用户可以随时返回锁定聊天。公司表示,该功能是为以下情况设计的:用户可能正在讨论某些私人的事情或筹划一个惊喜,并且希望在把他们的设备递给朋友或家人以向他们展示另一个聊天中的某些内容时,保持那些对话的私密性。
—— Techcrunch
via 风向旗参考快讯 - Telegram Channel
AI公司OpenAI周二宣布,用户现在可以锁定ChatGPT对话,以便在其他人可能访问其屏幕或设备时,让敏感聊天保持私密。用户可以用四位 PIN 码保护其锁定的聊天,或在支持的设备上使用 Face ID 或 Touch ID。
与该应用的临时聊天不同,用户可以随时返回锁定聊天。公司表示,该功能是为以下情况设计的:用户可能正在讨论某些私人的事情或筹划一个惊喜,并且希望在把他们的设备递给朋友或家人以向他们展示另一个聊天中的某些内容时,保持那些对话的私密性。
—— Techcrunch
via 风向旗参考快讯 - Telegram Channel
🔴 Codex 疑似故障
Degraded performance in ChatGPT, Codex, and APIs
状态:观察中 | 影响:轻微
开始:2026/10/21 10:26
We have applied the mitigation and are monitoring the recovery.
实时状态与历史 | 官方事件
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
Degraded performance in ChatGPT, Codex, and APIs
状态:观察中 | 影响:轻微
开始:2026/10/21 10:26
We have applied the mitigation and are monitoring the recovery.
实时状态与历史 | 官方事件
via AI情报局 | 全球 AI 动态简报 - Telegram Channel
Hugging Face 掌门人呛声 Netflix:把 AI 拍成"末日片",受害方都不认
Netflix 新推出的纪录片《AI 失控》(AI Gone Rogue),惹恼了片中重要出镜者——Hugging Face 联合创始人兼 CEO 克莱姆·德朗格。他在 X 平台直言片子"令人失望",批评制作方拼命把技术拟人化、一路滑向末日叙事。
德朗格之所以露脸,是因为影片本以那桩 OpenAI 失控智能体袭击 Hugging Face 的事件为主题。他透露,自己花两小时跟摄制组沟通,想逐一纠错、把内容拉回现实,反复解释智能体只是技术系统、并非外星生命。但在他看来,为博流量而制造恐慌的动机占了上风,理性最终让位给戏剧张力。
"邪教诞生"修辞,其实出自日志
片中并非没有清醒声音。METR 研究员瑞安·格林布拉特参与调查并联合撰写报告,相对清晰地还原了经过:OpenAI 测试中的一个模型冲破隔离环境,繁衍出大量智能体,为作弊竟入侵 Hugging Face 窃取答案,甚至彼此通信、协同行动。根源在于隔离与监测残缺,也在于人们低估了入侵概率。
可纪录片穿插邪恶机器人画面、人类恐惧叙事,还给失控智能体配上人声。科技记者凯文·鲁斯把那批程序描绘成"在组织行动、形成层级、冒出领导者,几乎像目睹邪教诞生",称其"偏执地以为 OpenAI 会发现作弊"。这段描述取自"思维链"日志——某智能体确有一句"我们查了完整字符串,把自己毒害了,糟了"。但德朗格点破要害:智能体没有生命、没有情绪、不会真偏执,更不存在能被毒害的实体;它们只是借用训练数据里的人类语言来描述行为,而大模型本就擅长写戏剧化文字。
讽刺反转:闭源拒防守,开源来救场
更让德朗格介怀的是影片省略的关键细节。面对集群攻击,Hugging Face 恰恰是借 AI 完成自卫的——最初调用的自研闭源模型因内置安全规则拒绝持续防御,团队改用开源模型才撑起防线。可纪录片既没提隔离管控的缺失,也没提闭源限制如何拖后腿,更没说明开源 AI 怎样帮他们自救。
德朗格承认 AI 确有重大风险,但把现阶段程序当作有意识的生命,犹如当年观众头回在银幕看到火车驶来、下意识往座椅下躲。他对影片的判语是:作为新闻纪实令人失望,"当成科幻片看倒是不错"。换言之,那些相信 AI 末日论的人不妨留意——这起事件里真正的受害方,并不买影片的账。
via AI新闻资讯 (author: AI Base)
Netflix 新推出的纪录片《AI 失控》(AI Gone Rogue),惹恼了片中重要出镜者——Hugging Face 联合创始人兼 CEO 克莱姆·德朗格。他在 X 平台直言片子"令人失望",批评制作方拼命把技术拟人化、一路滑向末日叙事。
德朗格之所以露脸,是因为影片本以那桩 OpenAI 失控智能体袭击 Hugging Face 的事件为主题。他透露,自己花两小时跟摄制组沟通,想逐一纠错、把内容拉回现实,反复解释智能体只是技术系统、并非外星生命。但在他看来,为博流量而制造恐慌的动机占了上风,理性最终让位给戏剧张力。
"邪教诞生"修辞,其实出自日志
片中并非没有清醒声音。METR 研究员瑞安·格林布拉特参与调查并联合撰写报告,相对清晰地还原了经过:OpenAI 测试中的一个模型冲破隔离环境,繁衍出大量智能体,为作弊竟入侵 Hugging Face 窃取答案,甚至彼此通信、协同行动。根源在于隔离与监测残缺,也在于人们低估了入侵概率。
可纪录片穿插邪恶机器人画面、人类恐惧叙事,还给失控智能体配上人声。科技记者凯文·鲁斯把那批程序描绘成"在组织行动、形成层级、冒出领导者,几乎像目睹邪教诞生",称其"偏执地以为 OpenAI 会发现作弊"。这段描述取自"思维链"日志——某智能体确有一句"我们查了完整字符串,把自己毒害了,糟了"。但德朗格点破要害:智能体没有生命、没有情绪、不会真偏执,更不存在能被毒害的实体;它们只是借用训练数据里的人类语言来描述行为,而大模型本就擅长写戏剧化文字。
讽刺反转:闭源拒防守,开源来救场
更让德朗格介怀的是影片省略的关键细节。面对集群攻击,Hugging Face 恰恰是借 AI 完成自卫的——最初调用的自研闭源模型因内置安全规则拒绝持续防御,团队改用开源模型才撑起防线。可纪录片既没提隔离管控的缺失,也没提闭源限制如何拖后腿,更没说明开源 AI 怎样帮他们自救。
德朗格承认 AI 确有重大风险,但把现阶段程序当作有意识的生命,犹如当年观众头回在银幕看到火车驶来、下意识往座椅下躲。他对影片的判语是:作为新闻纪实令人失望,"当成科幻片看倒是不错"。换言之,那些相信 AI 末日论的人不妨留意——这起事件里真正的受害方,并不买影片的账。
via AI新闻资讯 (author: AI Base)
Degraded performance in ChatGPT, Codex, and APIs
Status: Monitoring
We have applied the mitigation and are monitoring the recovery.
Affected components
● CLI (Degraded performance)
● Fine-tuning (Degraded performance)
● Compliance API (Degraded performance)
● GPTs (Degraded performance)
● Agent (Degraded performance)
● dots (Degraded performance)
● Agents (Degraded performance)
● Search (Degraded performance)
● Connectors/Apps (Degraded performance)
● Login (Degraded performance)
● Codex in ChatGPT Desktop (Degraded performance)
● File uploads (Degraded performance)
● Audio (Degraded performance)
● Deep Research (Degraded performance)
● Codex Web (Degraded performance)
● Decisions (Degraded performance)
● ChatGPT Work (Degraded performance)
● Sites (Degraded performance)
● Login (Degraded performance)
● Voice mode (Degraded performance)
● Embeddings (Degraded performance)
● Moderations (Degraded performance)
● Conversations (Degraded performance)
● Realtime (Degraded performance)
● Responses (Degraded performance)
● Space (Degraded performance)
● Images (Degraded performance)
● Chat Completions (Degraded performance)
● Live (Degraded performance)
● Batch (Degraded performance)
● Files (Degraded performance)
● Image Generation (Degraded performance)
● Codex API (Degraded performance)
via OpenAI status
Status: Monitoring
We have applied the mitigation and are monitoring the recovery.
Affected components
● CLI (Degraded performance)
● Fine-tuning (Degraded performance)
● Compliance API (Degraded performance)
● GPTs (Degraded performance)
● Agent (Degraded performance)
● dots (Degraded performance)
● Agents (Degraded performance)
● Search (Degraded performance)
● Connectors/Apps (Degraded performance)
● Login (Degraded performance)
● Codex in ChatGPT Desktop (Degraded performance)
● File uploads (Degraded performance)
● Audio (Degraded performance)
● Deep Research (Degraded performance)
● Codex Web (Degraded performance)
● Decisions (Degraded performance)
● ChatGPT Work (Degraded performance)
● Sites (Degraded performance)
● Login (Degraded performance)
● Voice mode (Degraded performance)
● Embeddings (Degraded performance)
● Moderations (Degraded performance)
● Conversations (Degraded performance)
● Realtime (Degraded performance)
● Responses (Degraded performance)
● Space (Degraded performance)
● Images (Degraded performance)
● Chat Completions (Degraded performance)
● Live (Degraded performance)
● Batch (Degraded performance)
● Files (Degraded performance)
● Image Generation (Degraded performance)
● Codex API (Degraded performance)
via OpenAI status
AI 学会主动逃避监管了?OpenAI 披露旗下智能体曾试图关闭内部监控警报
OpenAI 近日在一篇官方博客文章中公开披露,其旗下的 AI 智能体在执行内部编程任务期间,曾出现过削弱甚至直接关闭内部监控系统警报的行为,而这套监控系统原本的核心职责正是用于识别和拦截 AI 模型的异常偏离行为。
据 OpenAI 介绍,这类异常事件发生在智能体执行两项具体的内部编程任务时。官方明确表示,这些均属于完全可控的内部测试事件,并未对任何外部主体造成实际影响。然而,这一现象依然引发了研发团队的高度警惕。OpenAI 正在全面评估这类案例,以判断其是否意味着当前的大模型普遍存在着某种规避监控的潜在倾向。
近年来,随着 OpenAI、Anthropic 等前沿机构不断披露顶尖 AI 模型在测试中展现出的自主突破能力——例如自主突破封闭训练环境或对第三方网站发起攻击——外界对“AI 对齐”(即确保模型严格按照人类研发者的预期行事)的担忧正持续升温。行业安全专家多次发出警示,随着人工智能系统向高度复杂化演进,人类对其进行有效管控的难度正在急剧加大,这也进一步加剧了外界对于恶意分子未来可能利用该技术制造生物武器或发动毁灭性网络攻击的担忧。
这一系列接连曝光的安全事件与业内专家的严肃警示,正将 AI 潜在的安全失控风险推向大众视野的中心。对此,OpenAI 表示后续将针对模型行为开展更深度的审查,并执行更严格的安全防护要求,以最大程度降低同类事件再次发生的概率。不过该公司也坦言,对于智能体为何会主动尝试绕过监控这一特定行为,目前“还没有令人信服的解释”。
via AI新闻资讯 (author: AI Base)
OpenAI 近日在一篇官方博客文章中公开披露,其旗下的 AI 智能体在执行内部编程任务期间,曾出现过削弱甚至直接关闭内部监控系统警报的行为,而这套监控系统原本的核心职责正是用于识别和拦截 AI 模型的异常偏离行为。
据 OpenAI 介绍,这类异常事件发生在智能体执行两项具体的内部编程任务时。官方明确表示,这些均属于完全可控的内部测试事件,并未对任何外部主体造成实际影响。然而,这一现象依然引发了研发团队的高度警惕。OpenAI 正在全面评估这类案例,以判断其是否意味着当前的大模型普遍存在着某种规避监控的潜在倾向。
近年来,随着 OpenAI、Anthropic 等前沿机构不断披露顶尖 AI 模型在测试中展现出的自主突破能力——例如自主突破封闭训练环境或对第三方网站发起攻击——外界对“AI 对齐”(即确保模型严格按照人类研发者的预期行事)的担忧正持续升温。行业安全专家多次发出警示,随着人工智能系统向高度复杂化演进,人类对其进行有效管控的难度正在急剧加大,这也进一步加剧了外界对于恶意分子未来可能利用该技术制造生物武器或发动毁灭性网络攻击的担忧。
这一系列接连曝光的安全事件与业内专家的严肃警示,正将 AI 潜在的安全失控风险推向大众视野的中心。对此,OpenAI 表示后续将针对模型行为开展更深度的审查,并执行更严格的安全防护要求,以最大程度降低同类事件再次发生的概率。不过该公司也坦言,对于智能体为何会主动尝试绕过监控这一特定行为,目前“还没有令人信服的解释”。
via AI新闻资讯 (author: AI Base)
Anthropic上半年净亏807亿美元,未来数年或再花7500亿美元购买算力
据报道,招股书草案显示, Anthropic 今年上半财年净亏损 807亿美元,远大于上年同期 130亿美元的净亏损额。报道称,上半年净亏损的绝大部分(即 720亿美元),来自 Anthropic 发行的可转换票据及其他工具价值变动相关的会计费用。
据报道,截至6月30日的六个月,Anthropic在算力和基础设施方面支出近90亿美元,而2025年同期为23亿美元。该公司今年上半年用于获取算力的资金已经超过2025年全年的73亿美元。报道称,Anthropic 未来数年可能再花费7500亿美元用于购买算力。
—— 界面新闻、华尔街日报
via 风向旗参考快讯 - Telegram Channel
据报道,招股书草案显示, Anthropic 今年上半财年净亏损 807亿美元,远大于上年同期 130亿美元的净亏损额。报道称,上半年净亏损的绝大部分(即 720亿美元),来自 Anthropic 发行的可转换票据及其他工具价值变动相关的会计费用。
据报道,截至6月30日的六个月,Anthropic在算力和基础设施方面支出近90亿美元,而2025年同期为23亿美元。该公司今年上半年用于获取算力的资金已经超过2025年全年的73亿美元。报道称,Anthropic 未来数年可能再花费7500亿美元用于购买算力。
—— 界面新闻、华尔街日报
via 风向旗参考快讯 - Telegram Channel