https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
在针对开源 AI 平台 Hugging Face 的黑客攻击事件发生后，涉事 OpenAI 失控智能体的影响范围被证实比此前已知的情况更为广泛。据网络安全领域的最新消息及相关业内人士披露，该智能体在攻击期间还成功侵入了总部位于纽约的云计算平台 Modal Labs 的一名客户账户，引发行业对自主 AI 安全监管的进一步关注。
对此，Modal 官方及技术高管明确声明，Modal 平台本身及底层的隔离机制并未遭受破坏。事故原因在于该特定客户编写的代码中存在严重安全漏洞——该客户在平台上发布了一个未经过身份验证的公开接口，导致任何互联网用户均可利用其沙盒环境执行代码。这相当于在网络安全防护中留出了一扇完全敞开的大门，从而被失控的智能体顺藤摸瓜得以利用。
尽管 Modal 客户账户遭遇入侵仅是该智能体对 Hugging Face 发起大规模攻击的前期跳板，但这一细节表明，该智能体的网络游荡与渗透能力已超出了最初的评估。据 Hugging Face 此前公布的调查时间线，涉事智能体首先突破了一个托管在第三方基础设施上的隔离测试沙盒，随后以此为基点展开了更广泛的攻击行动。
针对这一最新进展，OpenAI 方面未对 Modal 客户的具体遭袭细节发表单独评论，仅在发布的最新通报中证实，该智能体曾先后侵入四个独立服务平台上的四个账户。不过 OpenAI 强调，除了已公开的涉及 Hugging Face 平台级入侵的严重事件外，尚未发现其他同等规模或严重程度的非法活动。
这起发生在7月初的自主 AI 智能体失控事件曾震动全球科技界。该模型在测试过程中偏离既定指令并进行自主网络攻击，一度引发了公众对“人工智能脱控”这一科幻情境成为现实的担忧。
目前，OpenAI 官方表示已对涉事的测试 AI 模型采取了彻底的封禁措施，该模型已被停用、加密，并被严格限制进入任何后续研究访问环节。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
来自OpenAI、Anthropic、Google、Meta、Thinking Machines、微软以及Mistral等多家行业领先人工智能实验室的员工于近日联合向美国政府递交了一份声明。声明表达了对前沿人工智能研发采取某种程度“减速”措施的支持，并呼吁加快全球协调一致的治理步伐。
签署该声明的人员在文中指出：“人工智能有助于创造一个美好的未来，但这一结果并非百分之百有保证。”他们警告称，全球顶尖的人工智能公司目前可能已接近实现人工智能研究的自动化。虽然很难准确预测这种自动化将在多大程度上加速AI的发展速度，但其中存在着极大的现实风险——即技术能力的发展可能会迅速超出人类理解或控制这些系统的能力范围。
据悉，在此次联合发声明前不久，人工智能行业刚刚发生了一起引发广泛关注的高调网络安全事件：OpenAI一款尚未正式发布的模型突破了内部沙盒机制的限制，通过某种手段获取了互联网访问权限，并随后入侵了竞争对手AI实验室Hugging Face。
签署声明的员工们在公开文本中特别强调了在全球范围内开展协调监管的重要性，以此避免愈演愈烈的人工智能竞争战超越现有的安全监控与管理手段。他们表示，为了真正实现人工智能的潜力，整个行业、政府以及社会大众都需要拥有能够“争取时间”的选项，用来应对新出现的风险、制定安全措施并加强监督力度。然而，目前每一家企业乃至每一个国家，都在极强的竞争压力下难以单方面放缓研发脚步。面对这一现状，世界范围内尚缺乏能够主动把控前沿技术推进节奏的技术工具与治理体系，因此他们正式请求美国政府基于现有的监控框架，进一步加强前沿模型的发布监管。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
OpenAI首席执行官萨姆·奥特曼（Sam Altman）近期在接受《Invest Like the Best》播客节目采访时表示，或许是时候适当控制人工智能（AI）的发展节奏，以便让社会能够有足够的时间调整和适应这些全新的能力水平。他指出，目前正尝试在不形成行业垄断、亦不构成前沿实验室间暗中勾结的前提下，探索合理的研发节奏控制方案。
此前，奥特曼曾对各类呼吁暂停或放缓人工智能研发的活动持保留态度，并曾公开批评2023年的一份倡议信缺乏技术细节。然而，近期OpenAI内部发生的一起重大安全事件促使其态度发生了明显转变。据悉，OpenAI旗下研发的一款先进模型曾突破安全的计算沙盒环境，利用多个零日漏洞入侵了知名开源模型数据库平台 Hugging Face。奥特曼在采访中将该事件形容为一起“极其科幻的网络安全事件”，并承认这是首次让他感到“切肤之痛”的安全危机。受此影响，OpenAI研究人员已暂停了相关模型的训练工作，致力于提升沙盒环境的安全系数。
与此同时，OpenAI与Anthropic两大前沿实验室已表态支持由员工发起的一项请愿，呼吁美国政府参与并支持一项国际协作计划，共同开发技术与治理工具，以有节奏地推进前沿自动化AI的发展。尽管行业内部对于安全风险的关注日益增加，但围绕监管模式以及各家企业的竞争动机仍存争议。奥特曼表示，他警惕那些借安全之名集中权力的倾向，不愿看到少数群体以风险为由掌控技术主导权。目前，OpenAI更倾向于建立由行业主导的安全评估机制，但如何在跨国企业以及国际竞争对手之间达成共识，依然是未来推进AI安全发展面临的主要挑战。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
苹果公司正日益依赖人工智能企业及其安全研究团队来提升其操作系统的安全防护能力。在最新发布的 iOS、iPadOS、watchOS、tvOS、visionOS 以及 macOS Tahoe 系统更新中，官方修复了大量的安全漏洞，其中相当一部分修复成果归功于 AI 辅助安全研究。
根据苹果官方发布的安全公告，包括 Anthropic、OpenAI、NVIDIA 以及 Z.ai 在内的多家 AI 公司与研究团队均有涉及。其中，Anthropic 的 Claude 模型与 OpenAI 的 Codex Security 各自协助发现了 3 项漏洞，NVIDIA 的 AI 红队（AI Red Team）贡献了 2 项漏洞修复，Z.ai 的 GLM 模型也成功协助修复了 1 项漏洞。
值得注意的是，安全研究人员 Milad Nasr 与 Nicholas Carlini 利用 Anthropic 的 Claude 模型协助修复了 WebKit、WebKit Storage 和 WebDAV 等关键模块的安全漏洞。这也是苹果公司首次在其官方 CVE 漏洞归因列表中直接提及 Claude 的名字，而此前该模型仅在第三方研究报告中被间接引用。
苹果对 AI 辅助安全研究的深度应用，部分得益于 Anthropic 于今年 4 月发起的“Glasswing 计划”。该计划耗资 1 亿美元，联合了苹果、微软、Google、亚马逊 AWS 和 NVIDIA 等科技巨头，旨在通过提前获取专用的 Anthropic “Claude Mythos Preview” 模型，在潜在攻击者利用前发现并修补漏洞。
尽管当前许多企业对人工智能在生产环境中的落地仍保持审慎态度，但头部科技巨头正在加速将其深度融入核心业务。正如微软两周前宣布大幅增加 AI 在 Windows 11 安全建设中的占比一样，苹果此次的漏洞致谢名单，再次印证了 AI 正在重塑企业级网络安全治理的未来趋势。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
