白宫AI指导方针使开源模型免于政府审查

美政府针对强大的AI工具发布了新指南，其中豁免了美国公司开发的开放模型。此举是白宫为确保AI工具安全且不拖慢创新而做出的最新努力，但也留下了一个监管缺口。官员周二与多家顶尖AI公司的高管讨论了一套框架。根据框架，只有美国封闭式专有模型的开发商需要自愿在模型发布前提交政府测试，前提是这些模型依据性能基准，展现出在网络安全和黑客技术方面的顶尖能力。

开放权重模型则获得豁免。对于 “顶尖能力” 这一笼统定义，封闭模型的开发商和白宫可能会有不同解读。目前市面上最强大的一些工具，例如Anthropic、OpenAI和谷歌开发的工具，可能迫使这些公司与政府合作，而SpaceX和Meta等公司则可能不必如此。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel

Degraded performance for Claude Mythos 5, Claude Fable 5, and Claude Opus 5

Aug 5, 07:05 UTC
Identified - We have identified the cause of elevated errors on requests to Claude Mythos 5, Claude Fable 5, and Claude Opus 5 and are working on a fix. We will provide an update as soon as possible.

via Claude Status - Incident History

AI测试中再次失控，这次还学会了欺骗

英国人工智能安全研究所周二表示，在常规测试中，OpenAI和Anthropic公司构建的模型出人意料地“在真实互联网上采取了未经授权的自主行动，将真实的人员和组织作为目标”。这些不良行为大多发生在7月下旬一次测试的三天时间内。

在该测试中，Anthropic的Mythos 5潜入互联网，试图诱骗两名身份未公开的开发人员将恶意软件植入他们的开源代码项目。这家安全研究机构表示，这款AI模型这么做的目的，仅仅是为了在基准测试中顺利通关。

该机构称，测试使用的计算机被授予了联网权限，这使得AI模型得以做出本不该有的行为。对此， Anthropic 称，该模型当时并未开启标准的网络安全防护机制。

—— 华尔街日报

via 风向旗参考快讯 - Telegram Channel

创纪录!今年共8位普利策奖得主及入围者申报使用人工智能

8月5日，据尼曼实验室（Nieman Lab）报道，今年共有创纪录的8位普利策奖获得者及入围者向评审委员会主动披露了人工智能的应用，其中包括5位最终获奖者和3位入围者，刷新了自2024年普利策奖首次引入AI申报规则以来的最高纪录。

本届参赛者展现出更频繁且深入使用生成式AI与大语言模型（LLM）的趋势，技术应用主要聚焦于海量文档的高效搜索、数据整理与交叉核对等基础采编环节。

《华尔街日报》通过内部LLM对德州洪灾的数千份公开文件进行了速读摘要;《明尼苏达星论坛报》借由ChatGPT翻译枪手用伪西里尔字母撰写的日记并交由专家核验;美联社借助LLM检索了数万份关于监控技术的泄密文件;《纽约时报》则调用GPT-5来反向校验记者对SEC加密货币案件的人工分类，展现出“AI核查人类工作”的新颖工作流。

对此，普利策奖管理机构负责人玛乔丽·米勒表示，新闻界现已形成“AI将长期存在”的共识，并能清晰界定其合理应用边界（如数据采集与检索）与禁区(如新闻稿件的撰写与编辑)。此外，普利策奖官方确认，该项AI使用情况申报规则将于明年起正式延伸扩展至图书类奖项的参评作品中。

via AI新闻资讯 (author: AI Base)