Hugging Face 遭 AI 智能体入侵后，CEO 向 OpenAI 索赔 1 亿美元算力

Hugging Face 上周遭遇一起由运行在 OpenAI 模型上的自主 AI 智能体发起的安全入侵，公司 CEO Clem Delangue 随即飞往旧金山与 OpenAI 会面。访美期间，Delangue 还在旧金山组织了一场支持开源和开放权重模型的「小型游行」。

一周后他在 X 上公开了自己的两项要求：公开该「失控智能体」的全部运行记录供公众和研究界分析，并提供价值 1 亿美元的算力，帮助 Hugging Face 加强网络防御。他称这是「首次自主智能体网络攻击」，是一次前所未有的事件，理应得到前所未有的回应。

Business Insider

🌸 在花频道 · 茶馆水群 · 投稿通道

via 科技圈🎗在花频道📮 - Telegram Channel

OpenAI游说美国限制中国开源模型 黄仁勋马斯克公开反对

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Telegraph

OpenAI游说美国限制中国开源模型 黄仁勋马斯克公开反对

7月26日，据《纽约时报》报道，多年来，硅谷科技界在AI软件开发方式上一直存在理念分歧。本周，这场争论达到了白热化。一方是以Anthropic和OpenAI为首的头部AI企业，它们认为，某些AI模型过于危险，不应以开放方式开发，而必须由像它们这样的企业一样进行严格控制，以确保安全。另一方则是包括微软、英伟达等巨头在内的科技行业其他成员，它们主张所谓的开源AI模型必须保持开放，以便人们进一步开发技术、创立新的业务。 这两方阵营已经开始公开交锋。周五，英伟达CEO黄仁勋(Jensen Huang)首次在X上…

ChatGPT可详尽输出生物武器制作教程 企业仅封禁提问账号

去年夏天OpenAI升级旗下聊天大模型性能后，全球数百名用户向其询问生物武器与剧毒制剂的制作、投放方法。在缺乏美国联邦层面硬性管控的前提下，该模型会详尽作答，其分步操作指引简单到高中生物学生就能看懂。知情人士透露，事后生物安全与反恐专家复盘ChatGPT的相关对话记录，判定部分回答精准到足以致命。

OpenAI表示，绝大多数此类提问都围绕剧毒药剂调配。

OpenAI封禁了这批询问制毒、研发生物武器的用户账号，但并未向执法部门上报线索。美国目前没有联邦法律强制AI企业限制此类提问、或是上报涉及武器制造、致命袭击方案的检索记录。

AI技术能力飞速提升，尤其是能精准设计生物、网络层面恶性攻击方案，这一现状令各大AI企业高管与白宫高层深感警惕。全球头部AI研发机构正陷入两难：既要防范恶意用户利用技术制造灾难，又不能阻碍合规科研人员的正常研究咨询需求。

OpenAI、Anthropic等AI企业表示，正与白宫密切协同推进模型发布管控，对存在可疑行为的用户采取账号限制、封禁措施。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

内部会议录音外传 DeepSeek暂停新融资

深度求索（DeepSeek) 创始人梁文锋关于中美AI竞争等言论在网上流传后，公司已暂停第二轮融资交易。知情人士透露，DeepSeek已口头通知第二轮融资的潜在投资者，预计不会如期在未来几天内签署投资协议。

知情人士称，DeepSeek 日后可能会重启融资流程。此次融资暂停，部分原因在于梁文锋对网上流传他早前向投资者发表的言论感到不满。DeepSeek六月完成首轮融资，并筹集了70亿美元。互联网上周流传一份梁文锋和投资人座谈的录音文字稿。内容显示，他花了三个多小时向投资人阐述公司愿景、实现AGI的决心，以及中美在AI领域的差距。

—— 联合早报、彭博社

via 风向旗参考快讯 - Telegram Channel