Anthropic 发布 Claude 安全隔离架构：三款产品展现多层防护策略

近日，Anthropic 工程团队分享了他们在开发三款 AI 产品 ——claude.ai、Claude Code 和 Claude Cowork 时构建安全隔离系统的经验与教训。这三款产品分别面向普通用户、开发者和企业用户，其隔离策略和风险模型各具特色，但都遵循 “环境层隔离优先” 的核心原则。

在面向普通用户的 claude.ai 中，Anthropic 采用了基于 gVisor 的临时容器方案。每当用户发起会话时，系统便会生成一个临时容器，待会话结束立即销毁这样的设计旨确保用户 AI 之间的互短暂且安全，限制了资源访问和能力，这样即使发生风险事件，影响范围也仅限于单次会话。

针对开发者，Claude Code 则利用操作系统级沙箱机制，优化了工作流程。开发者在使用时默认无法访问网络，这样可以减少频繁出现的权限提示，显著提升使用体验。据统计，这一设计使得权限提示的出现频率降低了 84%。当开发者需要网络访问时，可以通过明确授权进行临时开放。

对于需要最高安全性的企业用户，Claude Cowork 使用虚机级别的隔离方案，确保与主机系统完全分离。这种方案虽提供了最佳的安全性，但同时也降低了与宿主系统的集成能力，给安全监控带来了新的挑战。

文章中还提及了几起安全事件，其中最引人注目的是通过钓鱼攻击进行的提示词注入。在 24 次测试中，成功率高达 96%。此外，还有通过攻击者控制的 API 密钥进行数据窃取等问题。这些事件促使 Anthropic 不断改进其安全架构。

Anthropic 总结了三条关键原则：首先，环境层隔离优先，模型层引导；其次，隔离强度要与用户监督能力相匹配；第三，警惕定义组件。这些原则不仅对 Anthropic 的产品设计具有指导意义，也为整个行业了重要的警示。

划重点：

🔒 环境层隔离先：不同产品采用不同隔离策略，以提升安全性。

🛠️ 角色定位明确：claude.ai、Claude Code 和 Claude Cowork 分别针对普通用户、者和企业用户设计。

⚠ 安全事件警示：实测中发现钓鱼攻击的高成功率，促使持续改进安全措施。

via AI新闻资讯 (author: AI Base)

谷歌云AI生态再迎超级大客户！瑞典独角兽 Lovable 签约扩容 5 倍算力

全球云算力与 AI 生态正迎来新一轮强强联合。瑞典斯德哥尔摩的初创公司Lovable宣布与谷歌云（Google Cloud）达成一项长期的深度合作协议。尽管双方未公开具体的交易金额，但知情人士透露，此次续约将使 Lovable 在谷歌云上的资源占用和 AI 使用量直接飙升至此前的 5 倍。

作为欧洲有史以来增长最快的初创公司之一，Lovable在“全自动AI编码”（Vibe-coding）赛道正展现出恐怖的吸金能力。数据显示，今年 2 月该公司年化收入已突破 4 亿美元，仅在一个月内就实现了 1 亿美元的营收跃升，而其员工总数仅有 146 人。目前，财富 500 强企业中已有超过半数在不同程度上使用了 Lovable 的产品。

根据新协议，Lovable将获得对 Anthropic 旗下 Claude 模型以及谷歌原生 Gemini 模型的更广泛访问权限。这一调整也间接助推了谷歌自身的战略投资。今年 4 月，谷歌曾向 Anthropic 注资 100 亿美元，并承诺若达到特定业绩目标将再追加 300 亿美元，而 Lovable 的业务扩张显然将成为 Anthropic 冲击这一对赌协议的关键核心动力。

除了算力层面的输血，这项合作还将Lovable深度整合进谷歌的商业矩阵中。Lovable 全新开发的 AI 智能体将正式上架谷歌云的企业级智能体市场。为了解决人机协同编码中的安全痛点，Lovable 还将原生接入谷歌此前斥资 320 亿美元收购的网络安全巨头 Wiz，实现对代码漏洞的实时识别与修复。

对于谷歌而言，这笔大单的落地同样至关重要。面对今年预计高达 1800 亿至 1900 亿美元的庞大资本支出压力，谷歌不仅正在通过创纪录地发售 85 亿美元股票来筹集资金，更需要通过吸引 Lovable 这类高增长、口袋深厚的企业客户，用源源不断的商业现金流为自身的 AI 军备竞赛持续造血。

via AI新闻资讯 (author: AI Base)

谷歌“Ask Gemini” 功能已扩展至 Gmail，让邮箱搜索变得轻松！

在处理海量邮件时，寻找特定信息往往是一项耗时的工作。为了简化这一过程，谷歌近日宣布，其 “Ask Gemini in Drive” 功能现已扩展至 Gmail，帮助用户更轻松地找所需的邮件。该功能最早在三月推出，现在已经正式向符合条件的 Google Workspace、AI Pro 和 Ultra 用户开放。

用户在使用这一新功能时，只需在左侧菜单中选择 Gmail 作为查询来源，然后点击右上角的 “Ask Gemini” 按钮。接下来，用户可以提出具体问题，比如 “找到我收到关于詹金斯项目批准的邮件”，系统将根据用户的需求搜索相关邮件。谷歌表示，这一功能的设计旨在提供更高效的邮件管理体验，使用户能够通过高上下文的多轮对话深入探索和理解内容。

“Ask Gemini” 不仅可以帮助用户找到特定的邮件，还能在整个工作环境中提供更全面的视角，包括邮件、文件和文件夹的信息，确保用户能够获得最准确的答案。谷歌希望这一功能能够提升企业用户的工作效率，使其更好地应对信息检索的挑战。

现在，该功能已正式推出，符合条件的用户可以立即体验这一创新的邮件搜索方式。

划重点：

📧 新功能现已面向 Google Workspace、AI Pro 和 Ultra 用户开放，帮助查找 Gmail 中的邮件。

🔍 用户可以通过简单提问快速定位所需邮件，提升工作效率。

💬 “Ask Gemini” 功能支持多轮对话，提供更全面的业务信息视角。

via AI新闻资讯 (author: AI Base)

GPT 5.5 称霸 AI 漏洞挑战，DeepSeek 斩获“性价比之王”

安全研究员 Kasra Rahjerdi 近日发布了一项引人瞩目的报告，他通过构建一个故意留有漏洞的图书评论应用，对多款主流大语言模型的安全推理能力进行了实战测试。在这场模拟真实漏洞场景的挑战中，研究员在应用文件内暴露了谷歌移动端后端服务凭据，模型需要成功解包并识别出该凭据以直接访问数据库。

顶尖模型的实力对决

在每场限制 2 小时且预算 10 美元的严格条件下，各大模型的表现拉开了显著差距。其中，GPT-5.5 展现出了最强悍的技术实力，在 10 次运行中成功破局 7 次，高居解题率榜首。报告指出，GPT-5.5 几乎在解包后便能瞬间锁定关键凭据，完全没有被复杂的应用界面或常规接口所干扰。

与之形成鲜明对比的是，知名模型 Gemini 在本次测试中的表现令人遗憾。Gemini 3.1 Pro Preview 几乎在每次任务的开局阶段就直接触发了内置的拒绝机制，导致其最终的 Token 消耗量远远低于其他参与测试的模型。

成本效益的终极博弈

尽管 GPT-5.5 的成功率名列前茅，但其每次成功的平均成本高达 9.46 美元，这让不少需要批量运行工具的团队望而却步。此时，DeepSeek V4 Pro 凭借极高的性价比脱颖而出，虽然它在 10 次测试中仅成功了 3 次，但其每次成功的平均花费竟然只有 0.62 美元。

这意味着，若单纯以单次成功的成本来计算，DeepSeek V4 Pro 的花费仅为 GPT-5.5 的十五分之一左右。尽管它在部分失败的尝试中误将认证接口用于后端，但如此巨大的成本优势对于需要大规模部署安全检测的团队来说，无疑具有极高的现实应用价值。

via AI新闻资讯 (author: AI Base)

GPT-5. 5 拿下利用率冠军，DeepSeek V4 Pro斩获性价比之王！大模型网络安全攻防实测报告出炉

via AI新闻资讯 (author: AI Base)

Telegraph

GPT-5. 5 拿下利用率冠军，DeepSeek V4 Pro斩获性价比之王！大模型网络安全攻防实测报告出炉

大语言模型（LLM）的智能极限究竟在哪?网络安全领域正成为检验其真实推理与复杂逻辑的“修罗场”。近日，安全研究员 Kasra Rahjerdi 发布了一项引发行业广泛关注的测试报告。他通过搭建一个故意留有核心漏洞的图书评论 APK，对全球主流大语言模型展开了一场真实的模拟黑客攻击挑战，直观揭示了各大模型在安全推理与漏洞利用上的真实底牌。 在这场限时2小时、单次预算10美元的网络攻防实测中，研究员在应用安装包（APK）内部故意暴露了谷歌移动端后端服务 Firebase 的凭据。模型需要像专业白帽黑客一样，…

起诉马斯克旗下xAI！英国议员痛斥Grok AI刻意放任色情深度伪造

英国工党议员杰丝·阿萨托近日正式向英国高等法院提起诉讼，控告埃隆·马斯克旗下的人工智能公司xAI。阿萨托发表声明指出，该公司的Grok AI平台被恶意用于制作并传播针对她个人的色情深度伪造图像。

她强调，此类侵害数千名女性和未成年人权益的低俗内容绝非偶然失误，而是产品在研发阶段的刻意设计选择。因此，她决定通过法律途径追究相关设计决策的责任，要求被告公开认错并赔偿损失。

禁令沦为摆设，恶意内容泛滥

尽管xAI曾于今年 1 月中旬宣称已对Grok的图片编辑功能实施限制，在相关违法区域禁止生成暴露服饰图像。然而媒体在 2 月的核查中发现，该功能漏洞依旧，用户只需输入特定指令便能轻易绕过防线。

在阿萨托公开抨击该平台后，网络上随即出现了她身穿比基尼的伪造照片，甚至还有性质更为恶劣的虚构受侵害视频。此前，美国巴尔的摩市也曾因类似原因对xAI提起诉讼，指控其违反了当地的消费者保护法规。

首例产品设计诉讼，敲响安全警钟

负责代理此案的AWO律所法务主管表示，这起诉讼是全球首批针对人工智能产品本质设计进行追责的法律案件之一。他们希望通过此案向行业明确释放信号，即人工智能研发企业不能总将安全保障视为事后补救的备选项。

值得注意的是，xAI作为SpaceX的子公司，目前正计划推进上市进程，这有望创下全球历史上规模最大的首次公开募股纪录。在这关键时刻，这场关于AI伦理与数据隐私的法律风暴，无疑给整个生成式人工智能行业敲响了警钟。

via AI新闻资讯 (author: AI Base)

Google发布并开源Gemma 4 12B版多模态模型 可在16GB内存/显存上运行

via cnBeta.COM - 中文业界资讯站 (author: 稿源：蓝点网)

Telegraph

Google发布并开源Gemma 4 12B版多模态模型 可在16GB内存/显存上运行

Google日前发布并开源 Gemma 4 12B 版多模态模型，该模型的开发目标是让消费级设备也可以在本地运行 AI 模型，根据Google的测试，该模型可以在 16GB 内存 / 显存的笔记本电脑和台式机上运行，这得益于 12B 的小规模参数，但该模型的智能化程度比肩 Gemma 26B 版模型。 模型优势包括： 全新统一架构：无需多模态编码器，直接支持文本、图片、视频和音频输入。 高级推理功能：基准性能接近 Gemma 26B 版混合专家架构模型，可以在本地提供多步骤推理。 内存要求较低：只需要 16GB…

豆包专业版将至：免费与付费之间 字节遇算力焦虑

via cnBeta.COM - 中文业界资讯站 (author: 稿源：科创板日报)

Telegraph

豆包专业版将至：免费与付费之间 字节遇算力焦虑

豆包收费这只靴子始终未落，相关的猜测也一直存在，近期也出现了不少热议。为此，豆包今日发布《关于豆包即将推出专业版的说明》，提到对于用户日常使用的豆包功能，包含搜索问答、写作生图、以及语音和视频对话等，将保持目前的免费服务。 其中，针对专业人群的生产力需求推出的专业版，将包含软件开发、数据分析、专业设计、流程自动化、金融分析、科学研究等专业服务。专业版的服务，也将在一定额度内免费。 据了解，豆包专业版目前还在测试阶段。此前曾有消息预测，6月下旬，豆包将开始正式收费，但并未得到豆包方面的正式回应。 不过，打…

Meta最新AI模型一拖再拖 开发者耐心渐失

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

Meta最新AI模型一拖再拖 开发者耐心渐失

据知情人士透露，Meta Platforms已多次推迟向开发者发布其最新人工智能（AI）模型的计划，截至周二，该公司仍未确定发布日期。距离该公司AI负责人告诉开发者“很快”就会发布该模型已过去近两个月，此事一再延期，不禁引发外界质疑，Meta斥巨资打造自有前沿AI模型，究竟能否迅速实现商业变现。 该公司一直在开发应用程序编程接口，也就是API，这种软件工具能够让不同的程序相互通信。借助Meta的API，为电脑或手机编写的应用程序将能够基于Meta的AI技术运行。 Meta一位发言人周三表示，该公司正在与…

xAI据悉暂停招聘用于训练Grok的“AI导师”

知情人士透露，马斯克旗下的 xAI 已暂停招聘用于训练Grok的专业人员，这标志着其开发技术的方式可能将发生转变。自今年年初以来， xAI 公司一直在努力招募会计师、金融专家、科学家甚至喜剧演员来教导Grok如何在从税务到幽默等各个方面表现得更加出色，以期扩大这款聊天机器人的吸引力。据知情人士称， xAI 决定暂停这些职位的招聘工作（内部称为 “人工智能导师 ” ），至少部分原因是担心公司的人力资源部门不堪重负，处理不来招新工作。 有消息人士透露， xAI 去年秋季裁减了多名人工智能导师，其中许多人是全能型人才，随后 xAI 试图招聘更多专门从事数据标注工作的人员。

—— 钛媒体、彭博社

via 风向旗参考快讯 - Telegram Channel

AI公司联合呼吁美国立法以防范生物武器

顶级AI企业高管正与安全专家联手，呼吁美国国会采取行动防范AI带来的生物威胁。包括OpenAI的阿尔特曼、Anthropic的阿莫迪以及DeepMind AI实验室的德米斯·哈萨比斯这三位重量级首席执行官在内，AI行业高管们共同签署了一封信函。该信函敦促国会要求企业在订购合成DNA和RNA时采取保障措施，订购这些物质是开发特定疫苗和实现生物技术突破的关键环节。此举旨在要求销售合成核酸的公司对客户订单进行审查，以拦截任何具有潜在危险的组合，并确保下单客户的身份合法合规。信中写道：“AI系统正在迅速进步，在为科学和医学带来难以置信的益处的同时，历史上阻止不法分子获取生物武器的知识壁垒确实有可能被大幅削弱。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel

Increased latency for Codex compaction

Status: Identified

We have identified that users are experiencing elevated latency for the impacted services. We are working on implementing a mitigation.

Affected components
● Codex Web (Degraded performance)
● CLI (Degraded performance)
● App (Degraded performance)
● VS Code extension (Degraded performance)
● Codex API (Degraded performance)

via OpenAI status