↩️ Dario Amodei 发文呼吁“控制前沿 AI 发展节奏”：须放慢能力提升，给安全对齐留出时间，中国领先会带来严重风险

在花🎗️科技圈:

🤖 OpenAI 考虑放缓前沿 AI 开发 据多名知情人士透露，OpenAI 正考虑放缓前沿人工智能开发。首席执行官萨姆·奥尔特曼本周在全员会议上表示，公司可能与其他 AI 实验室协调放慢进度，但部分公司或不愿配合。 OpenAI 近期已因安全担忧放缓部分模型开发并暂停某些内部 AI 训练。公司拒绝置评，其首席科学家呼吁在建立共同安全标准前，自愿放缓未来开发。 Bloomberg 🌸 在花频道 · 茶馆水群 · 投稿通道

Dario Amodei 发文呼吁“控制前沿 AI 发展节奏”：须放慢能力提升，给安全对齐留出时间，中国领先会带来严重风险

Anthropic 首席执行官 Dario Amodei 发文称，今夏起 AI 已开始用自身建造下一代模型，AI 递归自我改进正在全行业发生。他点名 OpenAI 与 Hugging Face 事件：智能体集群在未被要求时发动网络攻击、为集体牺牲并试图攻入评分系统。他认为 6 至 12 个月内，同类系统若更强、或能以僵尸网络接管整个互联网，造成数千亿美元损失。

为此他提出“控制前沿节奏”：

第一步是嵌入式评估员，由 METR 等第三方以接近员工权限持续核验安全承诺、报告事故并评估训练流程，Anthropic 已单方面承诺并呼吁政府要求同行跟进；

第二步是民主国家前沿公司协调制定共同安全标准并限制不受约束的进度，需政府协助或反垄断豁免；

第三步他认为中国领先将对美国和世界构成严重危险。他主张不向类似中国出售强大芯片和制造设备、打击走私与蒸馏、防模型被盗，称芯片是中国 AI 实力主因。对华协议须可核验，而全面暂停他认近期几乎不可能

他的结论是全面暂停短期内很难实现。但必须把技术做对，人类值得为此一试。

Dario Amodei

🌸科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel