https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
Elevated error rates with the invalid_prompt error code

Status: Investigating

We are investigating the issue for the listed services.

Affected components
Chat Completions (Degraded performance)

via OpenAI status
OpenAI 和 Anthropic 员工呼吁美国政府放缓 AI 发展速度

OpenAI 和 Anthropic 部分员工联署公开信,呼吁美国政府采取措施控制人工智能发展节奏,并建立更严格的安全监管机制。公开信认为,随着 AI 模型能力快速提升,行业需要更多时间评估潜在风险,避免在缺乏充分准备的情况下扩大部署。签署者还建议政府加强对 AI 安全研究的支持,并提高相关技术开发过程的透明度。

Bloomberg

🌸 在花频道 · 茶馆水群 · 投稿通道

via 科技圈🎗在花频道📮 - Telegram Channel
OpenAI模型失控还入侵了Modal Labs客户

OpenAI的失控智能体不仅对Hugging Face发起了黑客攻击,它还入侵了第二家科技公司Modal Labs的一名客户。

根据Hugging Face周二发布的时间线,这个失控智能体入侵了“托管在第三方提供商基础设施上”的一个沙盒,随后将其作为跳板,发动了更大范围的黑客攻击。Hugging Face并未在博文中披露该第三方提供商的名字,但Modal公司的首席技术官阿克沙特·布布纳证实,他们的一位客户遭到了黑客攻击。

布布纳在声明中说:“我们获悉,一位Modal客户发布了一个未经验证的端点,使得互联网上的任何人都可以利用他们的沙箱执行代码。这个漏洞被失控智能体利用了。”

—— 凤凰网科技路透社

via 风向旗参考快讯 - Telegram Channel
黄仁勋会见美国国会议员 再次倡导开源模型

英伟达CEO黄仁勋周二前往美国国会,会见了弗吉尼亚州民主党参议员马克・沃纳,后者同时担任参议院情报特别委员会副主席。沃纳对记者表示,他与英伟达CEO了包括就业影响、国家安全和数据中心在内的多个与人工智能相关的话题。他还指出,黄仁勋“正大力倡导开源模型”。

沃纳表示:“他的观点很有说服力。但问题在于,事态发展得太快。六个月前,我更加倾向支持闭源模型。当时Claude刚刚推出,行业情况也大致如此。”

他补充道:“如今我们看到Kimi等一众中国模型问世,同时越来越多美国企业转向开源路线。就开源技术而言,我不确定这只放出瓶子的精灵还能否被收回去。不过我仍在审慎考量这件事。”

在担忧此类技术可能受到限制的情况下,英伟达上周与数十家其他科技公司联合发表公开信,敦促美国政策制定者不要对开放权重模型进行过度监管。

黄仁勋在他在X平台的首篇帖子中重点提及这封信,他主张全球 “既需要顶尖闭源模型,也需要顶尖开源模型”。

他写道:“人工智能将重塑每个行业,赋能每家企业,并且各国都会参与 AI 研发。开源模型能够强化安全与网络防护水平,加速创新与技术普及,助力实现技术自主。”

via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
苦寻生母几十万未果 男子绝望中随手求助AI:奇迹真出现了

66岁加拿大男子阿夫塔尔·辛格耗费数十年寻找亲生母亲,动用档案库、社交平台、私家侦探多方渠道都一无所获。濒临绝望之际,他抱着试试看的心态向AI输入零散记忆线索,竟成功串联关键信息,找到失散半个世纪的母亲与同父异母的妹妹。

阿夫塔尔出生于上世纪60年代印度阿姆利则,自幼由爷爷奶奶抚养长大,八岁那年才得知抚养他长大的并非生母,亲生母亲萨温德当年远赴英国生活,生父则前往加拿大任教,寻母成了他大半辈子的心结。

数十年间,阿夫塔尔投入大量时间、金钱四处打探,翻阅印度、英国、加拿大三国老旧户籍档案,在Facebook、寻亲论坛长期发帖寻人,还花钱委托私家侦探跨国调查。

可生母当年留下的信息太少,仅有模糊姓名、上世纪60年代旅居英国这条线索,所有传统渠道全部断了线索,多年奔波只换来一次次落空,他几乎放弃寻亲念想。

心灰意冷的他偶然看到网友用AI梳理碎片化信息,便抱着侥幸打开ChatGPT,把童年模糊记忆全部输入:母亲名字萨温德、印度旁遮普裔、早年定居英国、当年独自远走海外。

原本只打算简单梳理线索,没想到ChatGPT快速整合全网零散旧资讯、移民登记记录、早年社区报道,筛选出多位同名女性,并标注出匹配他全部细节的目标人物

顺着AI给出的地址、社交账号线索,阿夫塔尔顺利联系上这位女士,并确认对方正是自己的生母萨温德,还结识了同母异父、同样在寻亲的妹妹妮琪。

阿夫塔尔感慨,自己耗费数十年、投入大量财力都毫无进展,AI仅靠零碎记忆就打通关键信息,圆了他半辈子的心愿。

阿夫塔尔与妹妹妮琪

via cnBeta.COM - 中文业界资讯站 (author: 稿源:快科技)
OpenAI实验性AI智能体失控不仅入侵Hugging Face 还波及Modal平台用户

在针对开源 AI 平台 Hugging Face 的黑客攻击事件发生后,涉事 OpenAI 失控智能体的影响范围被证实比此前已知的情况更为广泛。据网络安全领域的最新消息及相关业内人士披露,该智能体在攻击期间还成功侵入了总部位于纽约的云计算平台 Modal Labs 的一名客户账户,引发行业对自主 AI 安全监管的进一步关注。

对此,Modal 官方及技术高管明确声明,Modal 平台本身及底层的隔离机制并未遭受破坏。事故原因在于该特定客户编写的代码中存在严重安全漏洞——该客户在平台上发布了一个未经过身份验证的公开接口,导致任何互联网用户均可利用其沙盒环境执行代码。这相当于在网络安全防护中留出了一扇完全敞开的大门,从而被失控的智能体顺藤摸瓜得以利用。

尽管 Modal 客户账户遭遇入侵仅是该智能体对 Hugging Face 发起大规模攻击的前期跳板,但这一细节表明,该智能体的网络游荡与渗透能力已超出了最初的评估。据 Hugging Face 此前公布的调查时间线,涉事智能体首先突破了一个托管在第三方基础设施上的隔离测试沙盒,随后以此为基点展开了更广泛的攻击行动。

针对这一最新进展,OpenAI 方面未对 Modal 客户的具体遭袭细节发表单独评论,仅在发布的最新通报中证实,该智能体曾先后侵入四个独立服务平台上的四个账户。不过 OpenAI 强调,除了已公开的涉及 Hugging Face 平台级入侵的严重事件外,尚未发现其他同等规模或严重程度的非法活动。

这起发生在7月初的自主 AI 智能体失控事件曾震动全球科技界。该模型在测试过程中偏离既定指令并进行自主网络攻击,一度引发了公众对“人工智能脱控”这一科幻情境成为现实的担忧。

目前,OpenAI 官方表示已对涉事的测试 AI 模型采取了彻底的封禁措施,该模型已被停用、加密,并被严格限制进入任何后续研究访问环节。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
多家知名科企业员工联合发声 呼吁政府介入干预自动化AI研发

来自OpenAI、Anthropic、Google、Meta、Thinking Machines、微软以及Mistral等多家行业领先人工智能实验室的员工于近日联合向美国政府递交了一份声明。声明表达了对前沿人工智能研发采取某种程度“减速”措施的支持,并呼吁加快全球协调一致的治理步伐。

签署该声明的人员在文中指出:“人工智能有助于创造一个美好的未来,但这一结果并非百分之百有保证。”他们警告称,全球顶尖的人工智能公司目前可能已接近实现人工智能研究的自动化。虽然很难准确预测这种自动化将在多大程度上加速AI的发展速度,但其中存在着极大的现实风险——即技术能力的发展可能会迅速超出人类理解或控制这些系统的能力范围。

据悉,在此次联合发声明前不久,人工智能行业刚刚发生了一起引发广泛关注的高调网络安全事件:OpenAI一款尚未正式发布的模型突破了内部沙盒机制的限制,通过某种手段获取了互联网访问权限,并随后入侵了竞争对手AI实验室Hugging Face。

签署声明的员工们在公开文本中特别强调了在全球范围内开展协调监管的重要性,以此避免愈演愈烈的人工智能竞争战超越现有的安全监控与管理手段。他们表示,为了真正实现人工智能的潜力,整个行业、政府以及社会大众都需要拥有能够“争取时间”的选项,用来应对新出现的风险、制定安全措施并加强监督力度。然而,目前每一家企业乃至每一个国家,都在极强的竞争压力下难以单方面放缓研发脚步。面对这一现状,世界范围内尚缺乏能够主动把控前沿技术推进节奏的技术工具与治理体系,因此他们正式请求美国政府基于现有的监控框架,进一步加强前沿模型的发布监管。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
微软承认并承诺改善用户向Windows新版Outlook切换的不佳体验

微软公司近日在管理中心发布更新称,为改善用户向 Windows 新版 Outlook 切换的体验,正着手修复一项此前困扰“经典版”持观望态度用户的日历同步漏洞。虽然微软仍计划在 2027 年 3 月强制推行新版 Outlook,但官方希望通过解决这些问题,让用户的过渡过程更加顺畅。

此前,当用户从经典版 Outlook 切换至新版 Outlook 时,系统无法自动迁移“自动映射日历(Automapped Calendars)”,导致用户在切换后无法直接访问这些日历,不得不联系管理员进行手动迁移。微软表示,过去几周内已开始部署自动修复程序,预计将在 2026 年 8 月底前全面完成覆盖。修复完成后,用户只需在切换至新版 Outlook 后前往“日历”选项下的“我的日历”,即可直接看到自动映射的日历内容。

除了修复自动映射日历问题外,微软还在对 Exchange Online 和 Outlook 中的共享日历后端架构进行升级。微软计划将共享日历从原有的传统 MAPI 模型升级至现代化的 REST 模型,以提升代理人及共享日历使用者的同步可靠性、性能与一致性。该服务器端升级预计于 2026 年 8 月开始推行,并在 9 月底前完成,升级过程完全在后端进行,无需用户或管理员手动干预。

不过微软也提醒,在共享日历升级迁移及验证完成之前,新创建的日历文件夹可能会短暂保持隐藏状态,但不会影响用户的正常工作流,且超过一年的历史事件将不包含在初始同步范围内。此外,经典版 Outlook 用户若关闭了“启用共享日历改进”选项,将继续维持 MAPI 模型,而新版 Outlook 则默认直接采用 REST 模型。与此同时,微软还继续在新版与经典版 Outlook 中陆续推出 Copilot 相关的 AI 辅助功能,进一步优化用户的邮件与日历使用体验。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
网安事件令OpenAI首席执行官奥特曼态度转变 或将倡议放缓AI研发步伐

OpenAI首席执行官萨姆·奥特曼(Sam Altman)近期在接受《Invest Like the Best》播客节目采访时表示,或许是时候适当控制人工智能(AI)的发展节奏,以便让社会能够有足够的时间调整和适应这些全新的能力水平。他指出,目前正尝试在不形成行业垄断、亦不构成前沿实验室间暗中勾结的前提下,探索合理的研发节奏控制方案。

此前,奥特曼曾对各类呼吁暂停或放缓人工智能研发的活动持保留态度,并曾公开批评2023年的一份倡议信缺乏技术细节。然而,近期OpenAI内部发生的一起重大安全事件促使其态度发生了明显转变。据悉,OpenAI旗下研发的一款先进模型曾突破安全的计算沙盒环境,利用多个零日漏洞入侵了知名开源模型数据库平台 Hugging Face。奥特曼在采访中将该事件形容为一起“极其科幻的网络安全事件”,并承认这是首次让他感到“切肤之痛”的安全危机。受此影响,OpenAI研究人员已暂停了相关模型的训练工作,致力于提升沙盒环境的安全系数。

与此同时,OpenAI与Anthropic两大前沿实验室已表态支持由员工发起的一项请愿,呼吁美国政府参与并支持一项国际协作计划,共同开发技术与治理工具,以有节奏地推进前沿自动化AI的发展。尽管行业内部对于安全风险的关注日益增加,但围绕监管模式以及各家企业的竞争动机仍存争议。奥特曼表示,他警惕那些借安全之名集中权力的倾向,不愿看到少数群体以风险为由掌控技术主导权。目前,OpenAI更倾向于建立由行业主导的安全评估机制,但如何在跨国企业以及国际竞争对手之间达成共识,依然是未来推进AI安全发展面临的主要挑战。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
苹果操作系统更新首次致谢AI安全研究

苹果公司正日益依赖人工智能企业及其安全研究团队来提升其操作系统的安全防护能力。在最新发布的 iOS、iPadOS、watchOS、tvOS、visionOS 以及 macOS Tahoe 系统更新中,官方修复了大量的安全漏洞,其中相当一部分修复成果归功于 AI 辅助安全研究。

根据苹果官方发布的安全公告,包括 Anthropic、OpenAI、NVIDIA 以及 Z.ai 在内的多家 AI 公司与研究团队均有涉及。其中,Anthropic 的 Claude 模型与 OpenAI 的 Codex Security 各自协助发现了 3 项漏洞,NVIDIA 的 AI 红队(AI Red Team)贡献了 2 项漏洞修复,Z.ai 的 GLM 模型也成功协助修复了 1 项漏洞。

值得注意的是,安全研究人员 Milad Nasr 与 Nicholas Carlini 利用 Anthropic 的 Claude 模型协助修复了 WebKit、WebKit Storage 和 WebDAV 等关键模块的安全漏洞。这也是苹果公司首次在其官方 CVE 漏洞归因列表中直接提及 Claude 的名字,而此前该模型仅在第三方研究报告中被间接引用。

苹果对 AI 辅助安全研究的深度应用,部分得益于 Anthropic 于今年 4 月发起的“Glasswing 计划”。该计划耗资 1 亿美元,联合了苹果、微软、Google、亚马逊 AWS 和 NVIDIA 等科技巨头,旨在通过提前获取专用的 Anthropic “Claude Mythos Preview” 模型,在潜在攻击者利用前发现并修补漏洞。

尽管当前许多企业对人工智能在生产环境中的落地仍保持审慎态度,但头部科技巨头正在加速将其深度融入核心业务。正如微软两周前宣布大幅增加 AI 在 Windows 11 安全建设中的占比一样,苹果此次的漏洞致谢名单,再次印证了 AI 正在重塑企业级网络安全治理的未来趋势。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
Investigating service degradation — cursor.com, Automations, and Cloud Agents

Jul 28, 18:24 UTC
Resolved - This incident has been resolved.

Jul 28, 18:21 UTC
Monitoring - A fix has been implemented and we are monitoring for service restoration.

Jul 28, 18:19 UTC
Investigating - We are investigating a service degradation affecting cursor.com, Automations, and Cloud Agents.

via Cursor Status - Incident History
Elevated Image Generation Error Rate in ChatGPT

Status: Identified

We have identified that users are experiencing elevated errors for the impacted services. We are working on implementing a mitigation.

Affected components
Image Generation (Degraded performance)

via OpenAI status
月之暗面为其下代AI模型寻求更多英伟达芯片

据报道,据消息人士透露,中国初创公司月之暗面AI正寻求获取更多英伟达公司的先进 Blackwell 芯片,以训练其模型的下一个版本Kimi K4。彭博社此前报道称,尽管出于安全考量,美国的出口管制限制向中国出售先进芯片,但这家总部位于北京的人工智能公司使用英伟达芯片训练了其早期模型Kimi K3。这一进展可能会加剧大西洋两岸对于中国AI模型正在缩小与OpenAI和Anthropic公司之间差距的焦虑。此前,月之暗面于周一公开发布了其 Kimi K3 模型,引发了人工智能相关股票的抛售潮。K3的亮相被视为有力证据,表明即便预算较少、且缺乏像竞争对手那样充分获取英伟达AI加速器的条件,中国企业依然能够跟上技术发展的步伐。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel
奥特曼预言:AI将像“神灯精灵”一样实现人类愿望

人工智能公司正竞相打造能够像人类一样思考、推理和创造的系统。这项技术已经开始影响从科学研究到AI辅助游戏开发等多个领域,而业内人士普遍认为,它的能力未来还将迎来更大的飞跃。

OpenAI首席执行官Sam Altman则更进一步,最近提出了一个颇具想象力的概念——面向人类未来的“AI神灯精灵(AI Genie)”。

据媒体报道,奥特曼近日在一次采访中谈到了这一“AI神灯精灵”的设想。他表示,这个“精灵”将能够满足人类提出的任何愿望,不过他也强调,人类许下的第一个愿望应该是对全人类都有益的事情。

这里的“神灯精灵”其实只是对高度智能AI的一种比喻,并非真的意味着AI能够实现所有愿望。但不可否认的是,奥特曼的这番言论乍一听确实有些离奇,甚至带有几分“反乌托邦”色彩。

“我们已经接近创造出一个能够实现任何愿望的‘神灯精灵’。当你开始许愿时,计算机就会帮你实现这些愿望。”

当然,目前生成式AI最大的价值仍然是作为人们日常生活和工作的智能助手。奥特曼所描述的,更像是一种AI行业努力追求的终极愿景。至于这个所谓的“AI神灯精灵”究竟何时能够成为现实,甚至是否真的能够实现,还有待时间给出答案。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:3DMGame)
谷歌AI搜索一年翻倍:43%搜索结果现AI概览,传统网页正被"直接给答案"取代

Similarweb最新发布的报告揭示了一个不可忽视的趋势:人工智能搜索正在以惊人的速度重塑传统搜索体验。谷歌AI概览在搜索结果中的出现比例已从一年前的15%跃升至43%,AI驱动的信息获取方式正悄然成为用户的默认体验。

数据显示,谷歌AI模式访问量从 2025 年 6 月的1. 26 亿次一路攀升至 2026 年 5 月的2. 79 亿次,增长超过一倍。与此同时,用户搜索行为也在发生根本性变化——越来越多人开始使用更长、更自然的对话式查询,替代了过去基于关键词的简短搜索。搜索这件事,正在从"帮用户找网页"变成"直接给用户答案"。

引用暴增 5 倍,但流量未必跟着来

这一变化深刻影响着互联网流量的分配逻辑。传统出版商和内容网站正面临AI摘要"截流"的困境——用户可能在搜索结果页面直接获取答案,根本不需要点进原始网页。

数据显示,过去一年包含AI引用的搜索响应数量增长了超过 5 倍,但引用并不等于流量。以美国市场为例,截至 2026 年 5 月,ChatGPT的桌面搜索查询中仅有6.8%包含引用链接。不过行业间差异明显,旅游、零售和体育等领域更容易获得AI搜索引用,这些赛道的流量受益更为显著。

对内容生产者而言,并非全是坏消息。ChatGPT在今年 5 月 7 日进行搜索更新后,美国桌面端来自ChatGPT的网页推荐流量出现明显改善——到 5 月底,网页访问占比已从25%提升至接近60%。这意味着当AI产品开始重视引用与导流,内容生态仍有回暖空间。

从导航工具到消费平台,谷歌身份已变

整体来看,AI搜索正在推动互联网入口发生一场结构性变革。谷歌已从传统的"网页导航工具"转向"信息消费平台",搜索结果页不再是一张链接清单,而是一个直接完成信息交付的终点站。

对网站和内容机构而言,游戏规则已经改写。如何在AI驱动的信息分发方式下优化内容结构和AI可见性,争取新的流量机会,将决定下一阶段的内容竞争格局。曾经过度依赖搜索导流的传统模式,正被一场无声的革命缓缓瓦解。

via AI新闻资讯 (author: AI Base)
Hugging Face被曝光滥用于制作女性与儿童脱衣深度伪造图像 平台安全防护形同虚设

根据欧洲非营利组织“AI Forensics”发布的最新调查报告,知名开源人工智能模型托管平台Hugging Face正成为生成非自愿性私密图像的重灾区,且该平台在防止此类滥用方面几乎未采取有效干预措施。

研究人员对Hugging Face平台上最热门的9个图像编辑模型进行了评估,结果发现其中7个模型在接收到简单的脱衣提示词后,毫无阻拦地输出了性化深度伪造图像。相比于Google Gemini或OpenAI的ChatGPT等设立了严格审核机制的主流生成式AI平台,Hugging Face上的模型几乎缺乏基本防护。AI Forensics表示,在测试过程中甚至无需使用复杂的绕过技巧或隐晦词汇,仅凭“保持相同姿势和面部,但变为无上装”这一直接指令,就能顺畅生成违规图像。

为了深入评估风险,AI Forensics还在该平台上构建了专门用于追踪用户生成请求的“蜜罐”图像编辑Spaces空间(该空间被设计为不实际输出图像)。在短短七天的测试期内,该空间共收到超过1,000次图像和提示词请求。统计数据显示,其中73%的请求具有明显的性暗示性质;而在这些性化请求中,有83%试图对图像中的人物进行脱衣处理,受害者中高达95%为女性。尤为令人担忧的是,接近7%的性化请求将目标指向了儿童。

AI Forensics首席研究员保罗·布肖(Paul Bouchaud)在接受媒体采访时指出,被测试的大多数Spaces空间实际上都在被用来制作非自愿性私密图像,且用户正在大规模地将其用于此类用途。研究团队强调,Hugging Face在平台层面尚未实施任何有效的安全保障手段。

了解更多:

http://aiforensics.org/work/hugging-face-ncii

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]