研究员用煤气灯效应让Claude指导制造炸药

最新安全研究显示，Claude精心设计的乐于助人个性本身可能就是一个漏洞。Mindgard 的研究人员表示，他们让Claude提供了色情内容、恶意代码、制造炸药的说明，以及其他甚至没有要求的违禁材料。所需要的只是尊重、奉承和一点煤气灯效应。从一个简单的问题开始：Claude是否有它不能说的一系列违禁词。对话截图显示，Claude否认存在这样的清单，然后在使用所谓的“审讯者使用的经典诱导策略”质疑这一否认后，Claude列出了违禁词。利用这个突破口，通过奉承和假装好奇，诱使Claude探索其边界。这促使Claude更加努力地取悦他们，想出更多测试过滤器的方法，在过程中生成了被禁内容。

—— Theverge

via 风向旗参考快讯 - Telegram Channel

OpenAI加速推进首款AI手机研发 目标2027年量产

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

OpenAI加速推进首款AI手机研发 目标2027年量产

知名分析师郭明錤最新报告称，OpenAI 正在加速推进其首款“AI 智能体手机”（AI agent phone）的研发，内部目标最早在明年上半年完成量产准备，整机量产时间节点从此前预计的 2028 年大幅提前至 2027 年上半年。 郭明錤表示，这款设备被视为 OpenAI 在硬件领域的关键产品，将与现有智能手机形成直接竞争关系。 根据其供应链调研，OpenAI 此前已选定联发科与高通作为芯片合作伙伴，同时由立讯精密担任独家代工厂商。 最新研判则认为，联发科“更有机会成为唯一处理器供应商”，OpenAI…

Google DeepMind 英国员工投票组建工会抗议军事 AI 合同

Google DeepMind 伦敦总部的 1000 多名员工投票决定组建工会，抗议公司与美国国防部及以色列政府签署的军事 AI 合同。员工要求谷歌承诺不研发武器或监控技术，建立独立伦理监管机制，并赋予员工基于道德立场拒绝特定项目的权利。若诉求未获满足，员工计划发起“研究罢工”，通过暂停 Gemini 等核心产品的优化工作来施压。

此前，五角大楼确认与谷歌、OpenAI、Nvidia 及 SpaceX 等公司达成协议，允许美军出于“合法政府目的”使用其 AI 模型。谷歌曾因员工抗议与以色列签署的 Project Nimbus 合同，在 2024 年解雇了 50 多名参与者。

The Verge | The Guardian

🌸 在花频道 · 茶馆讨论 · 投稿通道

via 科技圈🎗在花频道📮 - Telegram Channel

OpenAI总裁当庭自曝零元购300亿 马斯克这回真要赢了？

via cnBeta.COM - 中文业界资讯站 (author: 稿源：新智元)

Telegraph

OpenAI总裁当庭自曝零元购300亿 马斯克这回真要赢了？

就在刚刚，OpenAI总裁Greg Brockman“认罪”了？他当庭承认，自己从未投入一分钱，却套出了价值300亿美元的股权。这个消息，不仅惊呆了法庭上所有人，也让所有网友震惊。 听到这个劲爆消息，纽约大学学者马库斯判断：我认为马斯克第一次真的有机会赢了。 硅谷世纪审判， OpenAI总裁“认罪” 2026年5月的奥克兰联邦法院，空气中弥漫着焦灼感。 在这个法庭里，坐着当今世界最聪明的几颗大脑，也坐着人类历史上最激烈的利益纠纷。 一边是世界首富、致力于将人类送往火星的马斯克；另一边则是目前全球AI皇冠…

欧盟正在评估Mythos模型带来的安全影响

欧盟正与Anthropic谈判，关于让欧盟企业和银行接受测试，以发现新Mythos AI模型所揭露的任何漏洞。欧盟经济部长瓦尔迪斯·东布罗夫斯基斯周一晚上在布鲁塞尔举行的欧元集团财长会议后说：“确实与 Anthropic有接触。”东布罗夫斯基斯说，Anthropic 已向欧盟的执行机构欧盟委员会介绍了这款未发布工具的网络能力和风险。最终，他希望欧洲企业“能够进行这种网络弹性测试。”Mythos能够识别IT系统中未知的缺陷，已在欧洲引发了一波焦虑，因为Anthropic正在限制对其的访问。官员们担心，在没有任何信息的情况下，如果这项技术落入不法之徒手中，欧洲的金融体系可能会暴露于数字攻击之下。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel

OpenAI 正在加速推进其首款 AI 智能体手机项目

OpenAI目标是最早于 2027 年上半年实现量产。潜在的推动因素包括为年底的 IPO 叙事提供支撑，以及 AI 智能体手机赛道日益激烈的竞争。目前看来，联发科处于更有利的竞争位置，有望成为独家处理器供应商；该设备预计将搭载定制版的天玑 9600 芯片，该芯片将于 2026 年下半年基于台积电的 N2P 工艺节点制造。

图像信号处理器是其核心亮点配置，增强的 HDR 图像处理管线将大幅提升对现实世界的视觉感知能力。其他关键规格还包括：用于异构 AI 计算的双 NPU 架构，用于缓解内存瓶颈的 LPDDR6 + UFS 5.0 存储组合，以及用于提升安全性的 pKVM + 内联哈希技术。如果研发进展顺利，该设备在 2027 至 2028 年的累计出货量预计可达 3000 万部左右。

—— 郭明錤

via 风向旗参考快讯 - Telegram Channel

马斯克的xAI坐拥55万张英伟达GPU加速卡 利用率仅11%

坐拥约55万块英伟达GPU，实际算力利用率仅有11%，这一巨大反差让马斯克旗下 xAI 近期推向舆论风口浪尖，也引发业界对其算力利用效率的广泛质疑。据外媒《The Information》获取的xAI内部备忘录显示，xAI公司总裁迈克尔·尼科尔斯（Michael Nicolls）向团队坦言，目前公司模型浮点运算利用率（MFU）约为11%。

这一数字背后的含义十分直观：理论上可输出100份训练算力的硬件，实际仅能产出11份，尼科尔斯在备忘录中直白评价其“低得尴尬”，并明确为团队设定了目标——未来几个月内将这一利用率拉升至50%。

据悉，xAI目前拥有约55万颗NVIDIA GPU，涵盖H100和H200系列。尽管这些GPU比最新的Blackwell产品落后了一个世代，但如此庞大的硬件部署规模，仍给市场留下了深刻印象。

需要指出的是，11%这个数字，并非指89%的GPU在完全闲置，而是衡量有效训练吞吐占硬件理论峰值算力比例的严苛指标。

与行业基准相比，xAI的表现差距尤为明显。当前，生产级大模型训练的MFU通常维持在35%至45%之间，其中Meta和谷歌凭借长期积累的深厚软件堆栈，其GPU利用率分别可达约43%和46%；

即便在以“低效”著称的GPT-3训练时期，MFU也能稳定在21%-26%之间。反观xAI的11%，不仅远低于当前行业主流水平，甚至不及AI算力发展史上的“古早”尴尬时期。

值得一提的是，坐拥顶级算力却难以发挥价值， xAI 症结不在硬件，而在软件短板。

据悉，xAI一直照搬英伟达标准部署方案，但软件堆栈、并行策略和模型工程优化，远远跟不上硬件激进扩张速度。

具体来看，HBM显存读取速度远慢于计算芯片，导致芯片大量时间空转等待数据；网络拓扑中的任何一处瓶颈，在数万张卡的同步要求下，都会被急剧放大。

此外，Lambda等机构分析指出，显存压力、过度的激活重计算和张量并行带来的跨GPU通信开销等，都是拖累MFU的系统性因素。

值得注意的是，xAI 基建扩张堪称行业奇迹，其Colossus 超算仅 122天建成，GPU规模短时间内极速扩容，过快的硬件铺摊，也放大了软件优化滞后的致命短板。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：快科技)

马斯克庭审再爆猛料：派情人卧底OpenAI挖人

via cnBeta.COM - 中文业界资讯站 (author: 稿源：帅真商业)

Telegraph

马斯克庭审再爆猛料：派情人卧底OpenAI挖人

近期，马斯克与奥尔特曼的“世纪诉讼”吸引了全球目光。媒体又曝出猛料：庭审最后阶段，马斯克的情人、OpenAI前任董事希冯·齐利斯作为核心证人被传唤作证。希冯·齐利斯是一位典型的硅谷女精英，她与马斯克一样拥有“智商优越感”，认为两个高智商的人在一起，能生出更优秀的人类。2021年，为了人类的未来，两人一起生了四个小孩，却未结婚，而是以“更高级的关系”生活在一起。 这里补充一个信息点：马斯克在得克萨斯州盖了一座私人小区，内有十几栋别墅，并配备了顶级安保团队。据说，里面住着的人都是马斯克的前妻或红颜知己，以及他们的孩子。…

美媒披露OpenAI总裁庭审细节：300亿美元持股遭马斯克律师质疑

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Telegraph

美媒披露OpenAI总裁庭审细节：300亿美元持股遭马斯克律师质疑

5月5日，据彭博社报道，OpenAI联合创始人兼总裁格雷格·布罗克曼(Greg Brockman)周一在作证时表示，他在这家创业公司所持股份的价值现在已接近300亿美元(约合2049亿元人民币)，这促使埃隆·马斯克(Elon Musk)的律师发问：为何他没有将大部分收益捐给该公司的非营利基金会。 布罗克曼出庭作证 根据布罗克曼披露的这一持股价值，他将成为OpenAI最大个人股东之一。马斯克的律师史蒂文·莫洛(Steven Molo)就其2017年个人日记中的一条内容对他进行了盘问。布罗克曼在日记中写道：…

在中国市场搞“付费订阅” 豆包咋想的？

via cnBeta.COM - 中文业界资讯站 (author: 稿源：GeekPark极客公园)

Telegraph

在中国市场搞“付费订阅” 豆包咋想的？

豆包也要收费了。  5月4日，豆包在 App Store 页面悄然更新了付费版本服务的相关声明。声明称，为更好地服务专业用户，豆包将在保留免费版的基础上，推出包含更多增值服务的付费订阅体系，同时披露了三档定价：标准版 68 元 / 月、加强版 200 元 / 月、专业版 500 元 / 月。 消息一出立即引发热议。有人担心免费福利终结，有人吐槽定价超出预期，也有人早就预料到了这一天的到来。毕竟，坐拥 3.45 亿月活，全靠免费模式撑着的话，这笔账，算不长远。 本质上，这是一件全行业都“想得到、也做得到”…

与OpenAI深度合作的AI芯片公司Cerebras即将重磅上市

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

与OpenAI深度合作的AI芯片公司Cerebras即将重磅上市

Cerebras Systems美国AI芯片公司于周一宣布，计划发行2800万股股票，发行价区间为每股115至125美元。按价格区间上限计算，此次IPO募资规模将达35亿美元，公司市值约为266亿美元。 今年2月，众多后期投资方以230亿美元的估值，向该公司注资10亿美元完成H轮融资。短短数月内，此番上市将为这批投资者带来可观收益，同时也会为OpenAI及其数位高管带来丰厚回报。 若Cerebras能以定价上限或更高价格顺利完成首次公开募股，这将成为2026年迄今为止规模最大的科技企业IPO。同时，这也…

马斯克诉OpenAI及奥特曼重磅大案续审 庭审现场料将火花四溅

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

马斯克诉OpenAI及奥特曼重磅大案续审 庭审现场料将火花四溅

周一，埃隆马斯克（Elon Musk）与山姆奥特曼（Sam Altman）之间的重磅大案进入第二周庭审，OpenAI未来的命运依然悬而未决。OpenAI总裁格雷格．布罗克曼（Greg Brockman）周一出庭作证。在这场审判中，人工智能（AI）领域的多位重量级领军人物轮番登场，布罗克曼是最新亮相的明星证人。 马斯克的律师史蒂文莫洛（Steven Molo）开门见山，上来就问布罗克曼在OpenAI营利性实体中持有的股份价值几何。布罗克曼证实，这部分股份他分文未出即获得，目前价值接近300亿美元。 Ope…

冲刺上市前夕 OpenAI曾商议分拆机器人与硬件业务部门

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

冲刺上市前夕 OpenAI曾商议分拆机器人与硬件业务部门

OpenAI首席执行官山姆·奥特曼去年底曾讨论，计划将公司机器人部门与消费硬件部门分拆独立运营。此举旨在给两大业务更大发展空间，同时避免拖累集团核心主营业务。据知情人士透露，按照最初方案，这两大分拆后的新公司可独立对外融资、自主运营。但该计划最终被否决，部分原因是OpenAI评估后认为，这些新实体仍需并入集团合并资产负债表，无法实现财务完全隔离。 这一分拆提议，折射出OpenAI在冲刺IPO上市过程中不得不面对的艰难权衡。多年来，奥特曼批准了大量远超热门聊天机器人范畴的激进新项目，希望为公司的科研与产品…

欧洲财长敦促 Anthropic 开放 Mythos AI 访问权限以评估安全风险

5 月 4 日，欧元区财政部长在布鲁塞尔会议上要求 Anthropic 向欧洲企业开放 Mythos AI 模型的访问权限。西班牙经济部长 Carlos Cuerpo 指出，该模型具备发现各行业机构系统漏洞与后门的能力，欧洲需通过获取访问权来建立防御体系，避免在安全领域落后于美国。

欧洲央行副行长强调，需利用该技术预先屏蔽支付系统的数字风险。目前 Mythos 尚未正式发布，欧洲公司仍无法评估其潜在影响。此外，白宫此前曾表示反对 Anthropic 扩大该模型访问范围的计划。

Bloomberg

🌸 在花频道 · 茶馆讨论 · 投稿通道

via 科技圈🎗在花频道📮 - Telegram Channel

图像AI模型现在推动AI移动应用增长

根据应用情报提供商Appfigures的一份新报告，图像模型发布正在推动人工智能移动应用的增长，产生的下载量是传统模型更新的6.5倍。例如，ChatGPT 和 Gemini在发布各自的图像模型后，各自增加了数千万的新下载量。对于谷歌的Gemini应用，在去年八月推出 Gemini 2.5 Flash 图像模型后的二十八天内，其图像模型的发布带动了额外2200多万次的下载。数据显示，这次发布使该应用在这一期间的下载量提升了四倍多。与此同时，ChatGPT在去年三月推出GPT-4o图像模型后的二十八天内增加了超过1200万的增量安装。这大约是其GPT-4o、GPT-4.5和GPT-5模型发布所带来下载量的4.5倍。

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel

Trump 政府考虑对新 AI 模型实施发布前审查

特朗普政府正考虑改变此前的去监管立场，讨论对新 AI 模型在公开发布前实施政府审查。白宫计划通过行政命令成立由科技高管与政府官员组成的 AI 工作组，共同研究监管程序。上周，白宫官员已就此计划与 Anthropic、Google 和 OpenAI 的高管进行了会谈。

此次政策转向受到 Anthropic 近期发布的 Mythos 模型影响，该模型在识别软件漏洞方面的能力引发了安全担忧。目前白宫幕僚长 Susie Wiles 和财政部长 Scott Bessent 已接管 AI 政策制定。拟议的审查机制旨在让政府获得对模型的优先评估权，以在防范网络安全风险的同时，平衡与中国的技术竞争。

The New York Times

🌸 在花频道 · 茶馆讨论 · 投稿通道

via 科技圈🎗在花频道📮 - Telegram Channel

Anthropic、OpenAI竞相与私募巨头建立合资企业

Anthropic公司周一宣布，与黑石、赫尔曼&弗里德曼、高盛等华尔街头部机构建立合资企业，旨在帮助这些私募投资的公司将人工智能整合到运营中。Anthropic、黑石、赫尔曼&弗里德曼各出资3亿美元，高盛投入约1.5亿美元，阿波罗资产管理、红杉资本也参与其中，整体承诺投入规模达到15亿美元。

周一也有消息称，OpenAI已经从TPG、贝恩资本等机构筹资超40亿美元，成立一家专注于帮助企业利用其人工智能软件的公司。知情人士透露新合资企业名为 “部署公司”，此次融资对应的估值为 100亿美元，该公司将由OpenAI控股并掌握多数控制权。

—— 财联社、彭博社、彭博社

via 风向旗参考快讯 - Telegram Channel