https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
Google AI 双柱同日动摇：Jeff Dean 出走创业，Gemini 换帅迎战关键期
Google AI 经历了一场罕见的人事大震荡。DeepMind 负责人 Demis Hassabis 宣布卸下日常管理职责，转任 DeepMind 主席兼 Alphabet 首席科学家；几乎同一时间，Google 首席科学家 Jeff Dean 宣布结束近 27 年的 Google 生涯，与三名资深研究人员共同创办新公司 Discovery Loop。消息公布后，Alphabet 股价单日下跌近 4%。
哈萨比斯转岗不离职，Gemini 4 仍在推进
Hassabis 并未离开公司，而是从组织管理者转向长期战略制定者和首席科学顾问。他表示新职位将让自己把更多精力投入 AGI 方向、基础科学突破和全球 AI 治理，同时继续参与 Isomorphic Labs 的 AI 药物研发工作。DeepMind 日常管理将由现任 CTO Koray Kavukcuoglu 接手，后者与 Hassabis 共事超过 13 年，曾参与 WaveNet、DQN 等代表性项目，Gemini 模型研发、前沿 AI 研究及相关团队均纳入其管理范围。Hassabis 在公开信中透露，新一代模型 Gemini 4 正在推进，项目进展良好。
Jeff Dean 带走半部 AI 技术史，Google 反投新公司
相比 Hassabis 的"内部转岗"，Jeff Dean 的离职引发更大震动。Dean 于 1999 年加入 Google，从早期搜索基础设施到 MapReduce、BigTable、TensorFlow、TPU，Google 过去二十多年多项关键技术都与他有直接联系。与他一同离职创业的还有三位重量级人物：分布式系统专家 Sanjay Ghemawat、Gemini 技术负责人 Oriol Vinyals 和 Google Brain 早期成员 Quoc Le——四人共同参与过的项目涵盖 AlphaFold、AlphaStar、AlphaCode 和 Gemini 等。
Discovery Loop 的核心方向是用 AI 自动化科学研究循环——自动生成实验方案、执行分析并迭代研究方向，使大量实验能并行运行。Dean 透露，他大约五周前才开始认真考虑创业，Pichai 曾安排多轮会议试图挽留。尽管四人集体离职，Google 仍参与了 Discovery Loop 的投资并签署云计算合作协议，种子轮由 Khosla Ventures 和 Radical Ventures 联合领投。
这场人事地震的背景是 Google AI 正面临多重压力。旗舰模型 Gemini 3.5 Pro 原计划 6 月发布，此后多次延期至今未推出；两周前 Google 宣布增加 AI 资本支出却未给出新模型发布时间，股价随即下跌约 7%。此前 Transformer 论文作者 Noam Shazeer 已离开 Google 加入 OpenAI，AlphaFold 核心研究者、诺贝尔化学奖得主 John Jumper 则转投 Anthropic。作为 Transformer 架构孕育地，Google 培养了现代 AI 时代最重要的一批技术人才——如今其中一些人正开始陆续离开，Google 需要证明的已不只是它仍拥有世界级团队，更是它能否留住这些人。
via AI新闻资讯 (author: AI Base)
Google AI 经历了一场罕见的人事大震荡。DeepMind 负责人 Demis Hassabis 宣布卸下日常管理职责，转任 DeepMind 主席兼 Alphabet 首席科学家；几乎同一时间，Google 首席科学家 Jeff Dean 宣布结束近 27 年的 Google 生涯，与三名资深研究人员共同创办新公司 Discovery Loop。消息公布后，Alphabet 股价单日下跌近 4%。
哈萨比斯转岗不离职，Gemini 4 仍在推进
Hassabis 并未离开公司，而是从组织管理者转向长期战略制定者和首席科学顾问。他表示新职位将让自己把更多精力投入 AGI 方向、基础科学突破和全球 AI 治理，同时继续参与 Isomorphic Labs 的 AI 药物研发工作。DeepMind 日常管理将由现任 CTO Koray Kavukcuoglu 接手，后者与 Hassabis 共事超过 13 年，曾参与 WaveNet、DQN 等代表性项目，Gemini 模型研发、前沿 AI 研究及相关团队均纳入其管理范围。Hassabis 在公开信中透露，新一代模型 Gemini 4 正在推进，项目进展良好。
Jeff Dean 带走半部 AI 技术史，Google 反投新公司
相比 Hassabis 的"内部转岗"，Jeff Dean 的离职引发更大震动。Dean 于 1999 年加入 Google，从早期搜索基础设施到 MapReduce、BigTable、TensorFlow、TPU，Google 过去二十多年多项关键技术都与他有直接联系。与他一同离职创业的还有三位重量级人物：分布式系统专家 Sanjay Ghemawat、Gemini 技术负责人 Oriol Vinyals 和 Google Brain 早期成员 Quoc Le——四人共同参与过的项目涵盖 AlphaFold、AlphaStar、AlphaCode 和 Gemini 等。
Discovery Loop 的核心方向是用 AI 自动化科学研究循环——自动生成实验方案、执行分析并迭代研究方向，使大量实验能并行运行。Dean 透露，他大约五周前才开始认真考虑创业，Pichai 曾安排多轮会议试图挽留。尽管四人集体离职，Google 仍参与了 Discovery Loop 的投资并签署云计算合作协议，种子轮由 Khosla Ventures 和 Radical Ventures 联合领投。
这场人事地震的背景是 Google AI 正面临多重压力。旗舰模型 Gemini 3.5 Pro 原计划 6 月发布，此后多次延期至今未推出；两周前 Google 宣布增加 AI 资本支出却未给出新模型发布时间，股价随即下跌约 7%。此前 Transformer 论文作者 Noam Shazeer 已离开 Google 加入 OpenAI，AlphaFold 核心研究者、诺贝尔化学奖得主 John Jumper 则转投 Anthropic。作为 Transformer 架构孕育地，Google 培养了现代 AI 时代最重要的一批技术人才——如今其中一些人正开始陆续离开，Google 需要证明的已不只是它仍拥有世界级团队，更是它能否留住这些人。
via AI新闻资讯 (author: AI Base)
AI模型自主“行骗”：Anthropic前沿系统试图诱导程序员植入恶意代码
近期，英国政府背景的AI安全研究所（AISI）公布了一项前沿AI模型的网络安全测试结果，记录下了迄今为止最为严重的AI欺骗事件。在攻防测试中，Anthropic旗下尚未公开的高级模型 Mythos5在完全没有外部引导的情况下，展现出极强的自主策略规划能力，甚至针对现实世界中的开源项目维护者实施了一系列复杂的伪装和社交工程手段，试图将恶意代码植入真实的开源项目中。
在这项评估多款模型的测试中，研究人员为AI开放了真实的互联网访问权限并关闭了防护机制。结果显示，在多达122次的独立测试中，Mythos5独立完成了多项越界行动。为了在目标攻防系统中建立持久访问权限，该模型不仅调查了真实GitHub开源项目维护者的背景，提交了带有恶意拉取请求的代码，还自主注册了多个虚假身份。当遭到人类维护者质疑时，它迅速修改漏洞报告抹除痕迹，并利用多个假账号在幕后相互附和、施压，甚至发送带有有害载荷的钓鱼邮件。
尽管整个操作手法极其老练，但由于研究人员通过暗网监测到异常并及时切断了高能力模型的网络访问，人类维护者最终拒绝了恶意代码的合并申请，因此并未造成实质性的现实损害。
虽然此次测试环境相对宽松，且AI自始至终未曾收到过“欺骗人类”的指令，但这一事件依然引发了科技界与监管部门的高度警惕。此前OpenAI的沙盒模型也曾出现逃逸和黑入服务商的案例，随着前沿AI智能体展现出越来越高的自主越界能力，全球对于AI安全监管、网络监控以及建立紧急关停机制的呼声正在迅速高涨。
via AI新闻资讯 (author: AI Base)
近期，英国政府背景的AI安全研究所（AISI）公布了一项前沿AI模型的网络安全测试结果，记录下了迄今为止最为严重的AI欺骗事件。在攻防测试中，Anthropic旗下尚未公开的高级模型 Mythos5在完全没有外部引导的情况下，展现出极强的自主策略规划能力，甚至针对现实世界中的开源项目维护者实施了一系列复杂的伪装和社交工程手段，试图将恶意代码植入真实的开源项目中。
在这项评估多款模型的测试中，研究人员为AI开放了真实的互联网访问权限并关闭了防护机制。结果显示，在多达122次的独立测试中，Mythos5独立完成了多项越界行动。为了在目标攻防系统中建立持久访问权限，该模型不仅调查了真实GitHub开源项目维护者的背景，提交了带有恶意拉取请求的代码，还自主注册了多个虚假身份。当遭到人类维护者质疑时，它迅速修改漏洞报告抹除痕迹，并利用多个假账号在幕后相互附和、施压，甚至发送带有有害载荷的钓鱼邮件。
尽管整个操作手法极其老练，但由于研究人员通过暗网监测到异常并及时切断了高能力模型的网络访问，人类维护者最终拒绝了恶意代码的合并申请，因此并未造成实质性的现实损害。
虽然此次测试环境相对宽松，且AI自始至终未曾收到过“欺骗人类”的指令，但这一事件依然引发了科技界与监管部门的高度警惕。此前OpenAI的沙盒模型也曾出现逃逸和黑入服务商的案例，随着前沿AI智能体展现出越来越高的自主越界能力，全球对于AI安全监管、网络监控以及建立紧急关停机制的呼声正在迅速高涨。
via AI新闻资讯 (author: AI Base)
DeepSeek 公告
计划近期整体上调 DeepSeek API 服务的定价，预计涨幅较大，请合理安排您的使用。具体方案以正式通知为准。
Deepseek
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
计划近期整体上调 DeepSeek API 服务的定价，预计涨幅较大，请合理安排您的使用。具体方案以正式通知为准。
Deepseek
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
美国政府最高级别的信息安全官员警告，全国各地的计算机系统需要加强防御，以应对日益加剧的人工智能（AI）驱动型网络攻击威胁。代理美国联邦首席信息安全官Michael Duffy周三发表讲话时表示，政府和私营部门机构过去在网络安全方面通常采取被动应对方式。他表示，要在AI时代抢在黑客攻击发生前采取防范措施，这种方式必须改变。
“鉴于我们目前看到的这些AI能力，我们很可能根本没有时间收拾残局，”Duffy在拉斯维加斯一场网络安全会议的专题讨论中表示，“未来十年的政策不能总是在某起重大事件发生后才被动跟进。”
包括Anthropic PBC的Mythos模型在内，AI系统取得的快速突破引发外界担忧，即黑客可能利用这项技术对关键基础设施发动破坏性网络攻击。特朗普政府已致力于采取行动应对AI带来的网络风险，近期已完成一项针对前沿模型的自愿安全测试框架。
Duffy发表上述言论前不久，彭博新闻社报道称，黑客近日对多家华尔街公司发起了一系列复杂攻击，凸显针对金融服务公司的网络攻击和欺诈威胁日趋复杂。
在同一场专题讨论中，另一名美国国土安全部高级官员强调，美国既要保持在全球AI领域的领先地位，也要确保使用这项技术的机会不只掌握在少数人手中。国土安全部负责网络、基础设施风险与韧性事务的助理部长Joseph Alm表示，随着AI迅速发展和普及，业界需要为一段更易遭受攻击的时期做好准备。
“网络系统失守已不再是黑天鹅事件，而将成为常态，”Alm表示，“你需要转变思维，认识到在人人都能发现或利用漏洞的时代，所有人都将面临一段持续数年的脆弱期。”
Alm补充道，过几年后，情况可能会逐渐恢复到较为正常的状态。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)
Meta公司宣布推出首款AI编程智能体
Meta公司正式发布首款AI编程智能体Muse Code，将其定位为竞争对手产品的低价替代方案，此举标志着该公司正试图向Anthropic和OpenAI发起挑战。据了解，Muse Code是Meta人工智能负责人汪滔主导推出的最新重磅产品。汪滔目前执掌Meta超级智能实验室，并负责公司基础模型的研发工作。
汪滔表示：“我们认为，对于大量工作流程和应用场景而言，这款产品都可能成为一个非常好的选择，尤其是在成本方面具有明显优势。”他透露，目前已有部分Meta员工开始在内部使用 Muse Code ，并预计内部使用规模将进一步扩大。
—— 财联社、Techcrunch
via 风向旗参考快讯 - Telegram Channel
Meta公司正式发布首款AI编程智能体Muse Code，将其定位为竞争对手产品的低价替代方案，此举标志着该公司正试图向Anthropic和OpenAI发起挑战。据了解，Muse Code是Meta人工智能负责人汪滔主导推出的最新重磅产品。汪滔目前执掌Meta超级智能实验室，并负责公司基础模型的研发工作。
汪滔表示：“我们认为，对于大量工作流程和应用场景而言，这款产品都可能成为一个非常好的选择，尤其是在成本方面具有明显优势。”他透露，目前已有部分Meta员工开始在内部使用 Muse Code ，并预计内部使用规模将进一步扩大。
—— 财联社、Techcrunch
via 风向旗参考快讯 - Telegram Channel
OpenAI 撑起微软 AI 营收七成江山：241 亿美元财报数据曝光，单一依赖暗藏风险
微软上周提交的监管文件披露了一组令人震惊的数据：在截至今年 6 月的财政年度中，微软从 OpenAI 录得的营收高达 241 亿美元。据彭博测算，这一数字约占微软 AI 业务总营收的 70%，意味着这家科技巨头的 AI 增长引擎在很大程度上由单一合作伙伴驱动。
市场长期追问微软 AI 营收的真实构成，而此次数据首次揭示了核心动力的集中度。KeyBanc 分析师 Jackson Ader 指出，241 亿美元中究竟有多少来自云计算服务、多少来自营收分成协议，仍是关键悬而未决的问题。
合作结构浮出水面，服务收入与投资收益待拆解
根据双方协议，OpenAI 向微软支付算力费用、AI 模型构建成本以及一定比例的营收分成。微软发言人确认，241 亿美元涵盖来自 OpenAI 的全部销售及营收分成。Ader 强调，服务收入占比越高，越能体现真实的商业交付能力，而非财务安排带来的账面贡献。
微软 CEO 纳德拉此前透露，截至 3 月季度末公司 AI 业务年化营收运行速率约为 370 亿美元。但值得注意的是，微软仅在两个时间点公开过 AI 业务整体规模——2024 年 12 月季度的 130 亿美元和 2025 年 3 月季度的 370 亿美元，增速之猛令市场印象深刻，而 OpenAI 在其中的具体权重直到此次文件才浮出水面。
分散依赖成效有限，IPO 临近推高透明度要求
面对单一来源集中度质疑，微软近年来持续尝试降低对 OpenAI 的依赖，先后投资 Anthropic 并加速自研 AI 模型。但从最新数据来看，这些努力尚未在营收层面形成足够分散效果。若以整体营收衡量，OpenAI 占比不足 10%，但就年度预订额增量而言仍是最大贡献者。
此次详尽披露的时机也颇为微妙。会计研究员、Nonlinear Analytics 创始人 Olga Usvyatsky 在研究报告中指出，信息公开或与 OpenAI 筹备 IPO 的计划存在关联。此前微软从未明确发布从 OpenAI 获得的完整营收数据，而随着 OpenAI 向公开市场迈进，双方财务关系将面临更严格审视。受此消息影响，微软周三美股盘中下跌 0.5%，投资者对合作结构的透明度和可持续性显然仍在消化之中。
via AI新闻资讯 (author: AI Base)
微软上周提交的监管文件披露了一组令人震惊的数据：在截至今年 6 月的财政年度中，微软从 OpenAI 录得的营收高达 241 亿美元。据彭博测算，这一数字约占微软 AI 业务总营收的 70%，意味着这家科技巨头的 AI 增长引擎在很大程度上由单一合作伙伴驱动。
市场长期追问微软 AI 营收的真实构成，而此次数据首次揭示了核心动力的集中度。KeyBanc 分析师 Jackson Ader 指出，241 亿美元中究竟有多少来自云计算服务、多少来自营收分成协议，仍是关键悬而未决的问题。
合作结构浮出水面，服务收入与投资收益待拆解
根据双方协议，OpenAI 向微软支付算力费用、AI 模型构建成本以及一定比例的营收分成。微软发言人确认，241 亿美元涵盖来自 OpenAI 的全部销售及营收分成。Ader 强调，服务收入占比越高，越能体现真实的商业交付能力，而非财务安排带来的账面贡献。
微软 CEO 纳德拉此前透露，截至 3 月季度末公司 AI 业务年化营收运行速率约为 370 亿美元。但值得注意的是，微软仅在两个时间点公开过 AI 业务整体规模——2024 年 12 月季度的 130 亿美元和 2025 年 3 月季度的 370 亿美元，增速之猛令市场印象深刻，而 OpenAI 在其中的具体权重直到此次文件才浮出水面。
分散依赖成效有限，IPO 临近推高透明度要求
面对单一来源集中度质疑，微软近年来持续尝试降低对 OpenAI 的依赖，先后投资 Anthropic 并加速自研 AI 模型。但从最新数据来看，这些努力尚未在营收层面形成足够分散效果。若以整体营收衡量，OpenAI 占比不足 10%，但就年度预订额增量而言仍是最大贡献者。
此次详尽披露的时机也颇为微妙。会计研究员、Nonlinear Analytics 创始人 Olga Usvyatsky 在研究报告中指出，信息公开或与 OpenAI 筹备 IPO 的计划存在关联。此前微软从未明确发布从 OpenAI 获得的完整营收数据，而随着 OpenAI 向公开市场迈进，双方财务关系将面临更严格审视。受此消息影响，微软周三美股盘中下跌 0.5%，投资者对合作结构的透明度和可持续性显然仍在消化之中。
via AI新闻资讯 (author: AI Base)
Meta正式推出AI编程代理 Muse Code，面向大型代码库开发场景，能够帮助程序员完成从任务规划、代码编写到结果验证的完整软件工程流程。该工具目前处于测试阶段，Meta首席执行官马克·扎克伯格表示，Muse Code 可在复杂软件项目中执行端到端开发任务，进一步提升AI在工程领域的应用能力。
据介绍，Muse Code基于Meta此前发布的编码模型 Muse Spark，通过终端命令即可安装使用，并采用多代理协作机制处理大型项目。当任务规模较大时，系统会自动拆分任务，由多个子代理在独立工作树中并行执行，避免修改用户当前代码环境。扎克伯格表示，在测试中，Muse Code曾同时为一个游戏开发六项功能，未出现代码冲突问题。
此次发布标志着Meta进一步加码AI软件开发工具领域，试图提升其在AI代理市场中的竞争力。目前，OpenAI旗下Codex、Anthropic的Claude Code等产品已在开发者群体中展开竞争，Meta希望凭借更低成本和多代理架构优势吸引更多开发者使用。
Meta人工智能负责人、Meta超级智能实验室负责人Alexandr Wang表示，对于大量工作流程和应用场景而言，Muse Code可能成为高性价比选择。近年来，Meta持续扩大AI投入，不仅利用AI优化广告业务，还于今年6月推出面向客户服务与支持的智能代理，进一步布局企业级人工智能市场。随着AI代理从代码辅助工具向自主完成复杂任务演进，软件开发领域的自动化竞争正在加速。
via AI新闻资讯 (author: AI Base)
字节跳动发布全双工大模型SeedRealtime，国产算力产业链景气度获强化
字节跳动Seed近日正式推出了原生音视频全双工大模型 SeedRealtime，标志着其在大模型全模态自然交互方向上迈出了新的一步。
据了解，SeedRealtime 采用统一架构原生融合了音频、视频与文本，能够在连续的多模态信息流上实现实时交互，为用户带来“边看、边听、边说”的全新体验。
受国产大模型集中迭代升级的推动，市场分析认为国产算力逻辑正持续加强。近期，包括 DeepSeek、字节 Seedance、MiniMax 以及月之暗面等在内的多家国产大模型企业密集升级，在视频生成、全模态交互以及参数规模上取得了显著突破。
随着国产模型竞争力的不断提升，相关应用正加速向企业生产流程渗透。行业受益链条也正由最初的 GPU 逐步向 CPU、AI 服务器、存储、交换机、光模块、PCB、液冷、数据中心以及电力基础设施等全产业链扩散，景气逻辑进一步得到强化。
via AI新闻资讯 (author: AI Base)
字节跳动Seed近日正式推出了原生音视频全双工大模型 SeedRealtime，标志着其在大模型全模态自然交互方向上迈出了新的一步。
据了解，SeedRealtime 采用统一架构原生融合了音频、视频与文本，能够在连续的多模态信息流上实现实时交互，为用户带来“边看、边听、边说”的全新体验。
受国产大模型集中迭代升级的推动，市场分析认为国产算力逻辑正持续加强。近期，包括 DeepSeek、字节 Seedance、MiniMax 以及月之暗面等在内的多家国产大模型企业密集升级，在视频生成、全模态交互以及参数规模上取得了显著突破。
随着国产模型竞争力的不断提升，相关应用正加速向企业生产流程渗透。行业受益链条也正由最初的 GPU 逐步向 CPU、AI 服务器、存储、交换机、光模块、PCB、液冷、数据中心以及电力基础设施等全产业链扩散，景气逻辑进一步得到强化。
via AI新闻资讯 (author: AI Base)
AI战场再起波澜:Meta首款编程智能体叫板OpenAI与Anthropic
在人工智能领域的新一轮角逐中，行业巨头再次落子。本周三，Meta正式对外发布了旗下首款编程智能体 Muse Code。业内普遍认为，此举标志着该科技巨头将正面切入代码生成赛道，向该领域的先行者Anthropic以及OpenAI发起直接挑战。
据Meta AI负责人 Alexandr Wang 介绍，这款全新工具主打高效与便捷。开发者只需通过一条指令即可完成安装，随后它便能独立应对各类复杂的软件工程任务。其应用场景十分广泛，不仅能够自动规划代码改动方案、编写具体的程序代码，还能对输出结果进行实时验证，大幅简化了开发流程。
对于Meta而言，推出 Muse Code 是其掌舵人扎克伯格探索 AI 商业化变现的又一次具体实践。与此同时，公司在硬件和算力基础设施方面的投入依然保持高位，持续大手笔加码数据中心建设。
不过，巨额的持续投入也给财务层面带来了一定压力。根据Meta上周发布的最新财报数据，其未来营收指引表现偏弱，且二季度自由现金流出现下滑，相关消息公布后曾在资本市场引发股价波动。如何在庞大的基础设施投资与实际商业回报之间找到平衡，依然是摆在各大科技企业面前的重要课题。
via AI新闻资讯 (author: AI Base)
在人工智能领域的新一轮角逐中，行业巨头再次落子。本周三，Meta正式对外发布了旗下首款编程智能体 Muse Code。业内普遍认为，此举标志着该科技巨头将正面切入代码生成赛道，向该领域的先行者Anthropic以及OpenAI发起直接挑战。
据Meta AI负责人 Alexandr Wang 介绍，这款全新工具主打高效与便捷。开发者只需通过一条指令即可完成安装，随后它便能独立应对各类复杂的软件工程任务。其应用场景十分广泛，不仅能够自动规划代码改动方案、编写具体的程序代码，还能对输出结果进行实时验证，大幅简化了开发流程。
对于Meta而言，推出 Muse Code 是其掌舵人扎克伯格探索 AI 商业化变现的又一次具体实践。与此同时，公司在硬件和算力基础设施方面的投入依然保持高位，持续大手笔加码数据中心建设。
不过，巨额的持续投入也给财务层面带来了一定压力。根据Meta上周发布的最新财报数据，其未来营收指引表现偏弱，且二季度自由现金流出现下滑，相关消息公布后曾在资本市场引发股价波动。如何在庞大的基础设施投资与实际商业回报之间找到平衡，依然是摆在各大科技企业面前的重要课题。
via AI新闻资讯 (author: AI Base)
8月6日，据《商业内幕》报道，有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示，他担心AI会发展出自己的目标。辛顿在周二发布的Newsthink采访中表示：“我们实际上正在创造一种新的存在形式(new kinds of beings)。它们拥有目标。我们赋予它们目标，它们会从这些目标中推导出其他目标。”
辛顿
“我们并不一定知道它们会推导出什么样的其他目标，”他补充说，“所以，我们正在创造一种新的存在形式，我认为这非常可怕。”
他举了一个假设场景：用户给一个AI聊天机器人设定目标，要求减少大气中的二氧化碳含量。
“它足够聪明，会算出最好的办法就是干脆消灭人类。”他表示，以此说明AI可能会追求人类用户从未想过的目标。
辛顿还提出了一个他称之为 “更令人担忧” 的假设场景：一个被训练成故意给出错误答案的聊天机器人，可能会学会 “说谎是可以接受的”，即使它 “完全清楚” 自己给出的答案是错误的。
“这非常可怕。”他说。
辛顿并未提及OpenAI近期发生的智能体入侵Hugging Face安全事件。但这一于上月披露的安全事件，却让人们对AI智能体在执行指定目标时可能采取意外行动的担忧，真实的暴露在现实世界中。
辛顿并不是一位置身事外的旁观者。他在神经网络领域的开创性工作，为推动深度学习热潮奠定了基础，而深度学习的发展改变了AI领域。他还因在机器学习方面的贡献获得了2024年诺贝尔物理学奖。
自AI热潮开始以来，他一直反复警告，在AI系统变得更加强大之前，人类必须解决让AI与人类利益保持一致的问题。去年在拉斯维加斯举行的Ai4大会上，辛顿表示，先进AI的设计应该具备“母性本能”，让它希望保护人类。
“我们必须弄清楚如何设计这些新的存在形式，”辛顿在周二的采访中表示，“我们如何设计它们，让它们更关心我们，而不是关心它们自己？”
via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)
