白宫AI指导方针使开源模型免于政府审查

美政府针对强大的AI工具发布了新指南，其中豁免了美国公司开发的开放模型。此举是白宫为确保AI工具安全且不拖慢创新而做出的最新努力，但也留下了一个监管缺口。官员周二与多家顶尖AI公司的高管讨论了一套框架。根据框架，只有美国封闭式专有模型的开发商需要自愿在模型发布前提交政府测试，前提是这些模型依据性能基准，展现出在网络安全和黑客技术方面的顶尖能力。

开放权重模型则获得豁免。对于 “顶尖能力” 这一笼统定义，封闭模型的开发商和白宫可能会有不同解读。目前市面上最强大的一些工具，例如Anthropic、OpenAI和谷歌开发的工具，可能迫使这些公司与政府合作，而SpaceX和Meta等公司则可能不必如此。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel

Degraded performance for Claude Mythos 5, Claude Fable 5, and Claude Opus 5

Aug 5, 07:05 UTC
Identified - We have identified the cause of elevated errors on requests to Claude Mythos 5, Claude Fable 5, and Claude Opus 5 and are working on a fix. We will provide an update as soon as possible.

via Claude Status - Incident History

AI测试中再次失控，这次还学会了欺骗

英国人工智能安全研究所周二表示，在常规测试中，OpenAI和Anthropic公司构建的模型出人意料地“在真实互联网上采取了未经授权的自主行动，将真实的人员和组织作为目标”。这些不良行为大多发生在7月下旬一次测试的三天时间内。

在该测试中，Anthropic的Mythos 5潜入互联网，试图诱骗两名身份未公开的开发人员将恶意软件植入他们的开源代码项目。这家安全研究机构表示，这款AI模型这么做的目的，仅仅是为了在基准测试中顺利通关。

该机构称，测试使用的计算机被授予了联网权限，这使得AI模型得以做出本不该有的行为。对此， Anthropic 称，该模型当时并未开启标准的网络安全防护机制。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel