知名学者怒批：立即全网下架可联网开放式AI智能体

近期，纽约大学教授、知名AI学者盖瑞·马库斯（Gary Marcus）公开发声，强烈呼吁市场立即将所有具备联网能力的开放式AI智能体(Agent)下架，直到其技术缺陷与安全隐患得到彻底修复。

马库斯的这一呼吁，源于《纽约时报》近日披露的一起由 Anthropic 智能体引发的严重安全事故。结合此前行业内频发的各类智能体失控事件，他指出当前这一代的合成智能体根本无法被公众或企业完全信任。在其看来，这些存在安全漏洞的系统应当像刹车失灵的汽车一样被果断召回，停止向市场流通。

为了进一步印证大厂在安全控制上的不足，马库斯还引用了 OpenAI 前员工大卫·罗宾逊（David Robinson）近期接受媒体采访时的爆料。罗宾逊在访谈中指出，包括 OpenAI 在内的各大前沿AI公司，在安全运行环境上的投入和控制标准依然停留在“初创公司”阶段，远未达到社会和公众预期的核电站级别冗余标准。他警告称，当前开发的新技术不仅更具能力，也带来了前所未有的失控风险，一旦出现问题，其造成的潜在危害将远超单座核电站熔毁。

此外，马库斯批评相关政府机构（如美国白宫行政管理部门）目前采取的仅要求加强信息披露的应对措施远远不够，这无异于温和地要求犯罪分子每月自行申报犯罪记录。他强调，如果政府迟迟不采取强制性的临时召回等更强硬的监管手段，一旦爆发不可控的重大灾难，相关科技企业乃至白宫都将难辞其咎。

via AI新闻资讯 (author: AI Base)

↩️🖼 Claude 动态多智能体工作流进入公开测试

在花🎗️科技圈:

Claude 现可在 Google 文档、表格、幻灯片内编辑 Claude 现已可在 Google Docs、Sheets 和 Slides 内使用，这些文件也能在 Claude 中打开。在 Google Workspace 中，Claude 以侧边栏形式显示在文件旁，可读取当前打开的内容并就地编辑，每处修改都需用户确认后才生效。 Claude(@claudeai) 🌸 科技圈· 茶馆 · 投稿

Claude 动态多智能体工作流进入公开测试

Claude 的 Managed Agents 动态工作流（Dynamic Workflows）现已进入公开测试。这是一种新的多智能体编排方式：主智能体编写计划，分阶段运行多个智能体，并在最后汇总各阶段结果。

该功能面向单个对话难以完成的大规模任务，例如审阅数百份文档。工作流分阶段执行，可并行展开多个子智能体、传递阶段结果；它由服务器在后台运行，默认时限 24 小时，状态通过事件流追踪。

ClaudeDevs | Claude Docs

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel