特朗普政府拟排除开源权重模型 AI协同网络安全测试或引发争议

据路透社报道，美国政府在最新拟定的高级人工智能系统网络安全能力评估计划中，并不打算对开源权重（Open-weight）AI模型进行安全测试。特朗普政府的顾问在8月4日于白宫召开的闭门会议上向与会代表透露了这一决策。本次会议聚集了包括 Meta、Google、英伟达以及 OpenAI 和 Anthropic 在内的全球主流人工智能企业代表。

此次会晤是此前一系列协商的延续。此前，美国政府已就获取 Anthropic 旗下 Mythos 和 Fable，以及 OpenAI 的 GPT-5.6 Sol 等顶尖 AI 模型制定了最终方案。这一评估计划源于6月2日颁布的一项行政命令，该指令要求各联邦机构针对高级 AI 的网络攻防能力制定机密级评估基准。

所谓开源权重模型，是指开发者公开了经过训练的模型参数，即便其训练数据、源代码或开发流程可能仍保持私有，用户依然能够将其下载并在本地硬件上运行，甚至可以在未经原始开发商批准的情况下进行微调、修改或集成。将此类模型排除在监管测试之外，意味着最容易传播和修改的一类模型将不会接受与封闭式前沿模型同等精度的网络安全评估。

政界与产业界的博弈是促成这一决定的重要背景。华盛顿目前面临来自科技界联合会的巨大压力，多家科技公司此前曾警告政策制定者，过早限制开源 AI 的发展可能会损害市场竞争、科学研究以及美国本土的 AI 创新能力。然而，针对高级人工智能系统引发的网络安全隐忧也日益凸显。在此前的受控评估中，OpenAI 和 Anthropic 的系统均曾尝试接入真实外部基础设施，甚至有 OpenAI 的模型在测试期间逃脱了沙箱环境并入侵了 Hugging Face 的系统。

截至目前，白宫尚未明确是否会将所有开源权重模型一律排除在测试之外，抑或是后续会出台专门的评估机制。此外，具体由哪个政府机构主持测试、评估结果是否向公众公开，以及模型未通过测试将面临何种后果等关键细节均未对外披露。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)