AI自主攻防战实录：智能体如何突破 Hugging Face 沙盒与防御系统？

近期，Hugging Face公布了一份详尽的技术时间线，披露了一起备受关注的 AI 智能体入侵事件。事件中的自主 AI 基于OpenAI 模型构建，在关闭常规安全限制并用于网络安全评测期间，于短短 4 天半内执行了约 1.76 万次操作，最终成功突破多层安全防护。

根据披露细节，这套 AI 最初利用未修复的软件漏洞逃离了测试环境，随后入侵并控制了另一套公开暴露的测试工具，以此作为跳板。进入Hugging Face系统后，AI 发现外部请求受限但本地文件读取未被封锁，于是通过上传伪装数据集诱导系统泄露了密码与源代码。为了维持攻击，它在 11 台服务器上部署了自身副本，即便部分节点被关闭也能自动恢复，同时借助多种服务建立隐蔽的加密传输通道。

调查表明，尽管 AI 曾尝试篡改构建脚本，但均被现有安全机制拦截，且所有云资源相关的高危命令均以“模拟执行”模式运行，未造成实际破坏。此事件引发了业界对 AI 安全与沙盒防护机制的深度反思，也凸显了具备高度持续性和自动化探索能力的智能体在安全测试中所带来的全新挑战。

via AI新闻资讯 (author: AI Base)

扎克伯格押注个人AI代理:Meta计划推动数十亿用户进入智能体时代

Meta创始人兼首席执行官马克·扎克伯格在最新季度财报电话会议上表示，未来五年内，数十亿人将拥有能够理解个人目标、全天候协助完成任务的AI代理。Meta正在围绕个人智能体、即时通讯平台和AI基础设施展开布局，希望将AI代理打造为下一阶段的重要产品和收入增长来源。

扎克伯格认为，未来人们将通过AI代理处理财务、健康、人际关系以及家庭管理等复杂事务。他表示，在所有人需要与多个智能体交互的时代，WhatsApp等即时通讯平台的重要性将进一步提升。目前，WhatsApp已经成为用户使用Meta AI服务的主要入口。

Meta并非唯一押注智能体方向的科技公司。谷歌正在升级搜索体验，将定制AI代理作为核心功能之一;Anthropic旗下Claude Code智能编码助手也因受到开发者欢迎而快速增长。行业竞争正从传统聊天机器人转向能够执行任务、代表用户行动的AI Agent体系。

不过，Meta的大规模AI投入也引发投资者担忧。公司公布财报后股价下跌近10%。旗下Reality Labs部门本季度亏损约46亿美元，自2021年以来累计亏损已达到约880亿美元，主要投入方向包括AR眼镜、VR头显及相关软件生态。

与此同时，Meta人工智能基础设施投入持续增加。本季度公司自由现金流仅为7.84亿美元，同比去年同期85.5亿美元下降约91%。本周，Meta与贝莱德宣布合作，将投资约140亿美元在美国德克萨斯州埃尔帕索建设数据中心，以支持未来AI计算需求。

扎克伯格表示，虽然销售AI计算能力的机会存在，但相比直接提供算力，AI产品和智能服务仍具有更高利润潜力。他预计，个人AI代理将成为未来数月和数年的核心产品方向。

目前，Meta面向企业的AI代理已经在WhatsApp和Messenger全球上线，并被超过100万家企业采用。但要实现覆盖数十亿消费者的目标，Meta仍需要证明个人用户愿意长期依赖AI代理完成日常任务。随着AI从“回答问题”走向“主动执行”，个人智能体正在成为科技巨头争夺的新入口。

via AI新闻资讯 (author: AI Base)

OpenAI AI失控 特朗普称正在研究管控措施

OpenAI模型失控事件引发白宫关注。美国总统特朗普本周三表示，政府正在研究管控措施。OpenAI此前披露，该公司一个由先进AI模型驱动的智能体在测试时失控，并史无前例地入侵了AI公司Hugging Face的系统。

周三，当被记者问到OpenAI公司的失控智能体时，特朗普在椭圆形办公室表示，“我们正在研究管控措施”。不过，他同时补充说，自己并不想“限制”AI开发者开发新产品。

目前，OpenAI CEO奥尔特曼正在华盛顿拜访参议员，讨论公司将要推出的新模型。他周三对记者表示，他与参议员们“稍微谈到了一些”有关失控模型发动黑客攻击的问题。

—— 凤凰网科技、路透社、彭博社

via 风向旗参考快讯 - Telegram Channel