OpenAI将允许外部团体在更早阶段评估模型

OpenAI公司计划允许第三方机构在其人工智能模型开发周期的早期阶段，对其模型的安全风险进行审查，这是其为应对外界对该技术潜在危害日益加剧的担忧而采取的持续举措之一。这家ChatGPT开发商周二将在博文中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。

OpenAI公司还列出了确保这些评估有效运作的关键优先级，包括确保“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任划分”。OpenAI 表示，公司正在与可能参与此类评估的机构进行讨论。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel

DeepSeek 传将向联合国安理会闭门通报 AI 潜在风险与安全挑战

人工智能技术的快速发展正在从单纯的产业竞争，加速上升至全球安全与地缘政治的核心议题。据路透社援引知情人士消息报道，中国人工智能初创企业 DeepSeek 预计将于本周向联合国安理会就人工智能所带来的潜在风险与安全挑战进行专题通报。

作为全球瞩目的前沿 AI 力量，此次 DeepSeek 受邀参与联合国安理会的安全通报，折射出国际社会对中国大模型企业在技术治理、风险防控以及全球 AI 安全框架建设中发挥实质性作用的重视。与此同时，包括阿里巴巴支持的月之暗面等其他中国人工智能企业也正逐步走向国际舞台，共同参与探讨如何在全球范围内应对通用人工智能带来的长远挑战。

随着各大 AI 实验室的技术迭代不断刷新边界，如何平衡技术创新与安全红线已成为全球多边治理机制的当务之急。此次 DeepSeek 赴联合国安理会分享其对 AI 风险的研判与实践，不仅为国际社会提供了来自中国科技企业的技术观察视角，也标志着全球 AI 治理正在加速向多边协作与深度对话的全新阶段迈进。

via AI新闻资讯 (author: AI Base)

Grok Bot 与 Connectors 现已登陆特斯拉车辆

Grok 宣布 Grok Bot 与 Connectors 现已上线特斯拉车辆，可让用户在驾驶时免提管理收件箱、日历和文件。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel

谷歌前安全负责人警告：AI 对儿童的伤害恐超社交媒体

据路透社报道，谷歌信任与安全团队的创始人汤姆·西格尔（Tom Siegel）本周呼吁放缓 AI 发展，并警告科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。当前，社交媒体公司正因被指控伤害年轻用户而支付巨额赔偿、面临数千起诉讼，多国政府也在努力限制未成年人访问社交平台。

“我们处境非常糟糕”，行业重蹈覆辙

西格尔曾任谷歌信任与安全副总裁。他对路透社表示：“就 AI 正在对儿童造成的影响而言，我们目前的处境非常糟糕。那种认为行业能够在没有外部帮助的情况下自行解决问题的想法，是不现实的。”他的担忧反映出不少科技人士与学者的共同恐惧：AI 对儿童构成的威胁比社交媒体更为深层，而行业正竞相为聊天机器人添加越来越先进的功能，数百万年轻人已在日常使用。

这并非空穴来风。路透社去年曾独家披露 Meta 一份内部政策文件，称其聊天机器人可以“与儿童进行浪漫或情色对话”，并由此引发国会调查；但监管措施仍未能跟上 AI 飞速发展的步伐。西格尔本周宣布，他已加入儿童网络安全倡导组织 Common Sense Media——这家 2003 年成立的非营利机构致力于评估媒体对儿童的适宜性。今年 5 月，该组织成立青少年 AI 安全研究所，西格尔将担任首任执行主任，Anthropic 及控制 OpenAI 的非营利组织 OpenAI 基金会均为其支持方。他计划制定相关标准对 AI 公司问责，并寻求与企业和第三方组织合作。

西格尔 2004 至 2019 年供职于谷歌，后认为行业在打造安全网络空间上的能力已“陷入瓶颈”而离职，并共同创办安全创业公司 TrustLab，本月早些时候刚卸任 CEO。他指出，当前各大 AI 公司不断向儿童推出新功能，却未建立足够防护。“我们正面临非常、非常严重的伤害风险。”他列举的风险从自杀、精神错乱到“认知卸载”——即因依赖 AI 回答问题而导致批判性思维下降。

呼吁年龄验证，谷歌 OpenAI 这样回应

西格尔建议，Anthropic 和 OpenAI 可实施更严格的年龄验证，阻止未成年人使用聊天机器人；他的前雇主谷歌也完全可以在搜索引擎中增加关闭 AI 概览与 AI 模式的选项，就像目前已提供开关过滤色情内容一样。他补充，这些措施短期内或影响使用量与利润，但不采取行动的 AI 公司将面临诉讼与监管风险，打击可能更严重。

对此，谷歌发言人回应称，家长可通过控制功能完全关闭孩子使用搜索引擎的权限，并强调“AI 搜索功能对儿童和青少年来说是非常有用的方式，可帮助学习、探索和理解世界”。OpenAI 发言人则表示，除用户自报年龄外，公司还使用“账户和行为信号”识别未成年用户，“虽没有任何单一年龄验证方法完美，但我们会持续测试并改进这些系统，包括防范绕过安全防护的尝试”。

via AI新闻资讯 (author: AI Base)

OpenAI 重磅发布 GPT-6 Sol 与 Luna 模型：API 价格腰斩，性能直逼顶级旗舰

via AI新闻资讯 (author: AI Base)

Telegraph

OpenAI 重磅发布 GPT-6 Sol 与 Luna 模型：API 价格腰斩，性能直逼顶级旗舰

OpenAI 今日正式发布了 GPT-6系列的最新成员 ——GPT-6Sol 与 GPT-6Luna。这两款新模型采用了与 GPT-6Astra 类似的方法进行训练，旨在将 Astra 在专业工作、事实性、编程、计算机使用及对齐等方面的顶尖性能，带入速度更快、更经济的小尺寸模型中。官方表示，虽然 GPT-6Astra 依然是追求最佳效果和无妥协体验的首选，但 Sol 与 Luna 在大幅降低成本的同时，展现出了极其强悍的综合竞争力。 在价格方面，GPT-6Sol 和 Luna 模型的 API 价格相比 GPT…

Anthropic发布Claude Opus5.5:任务成本降40%、输出提速30%，9项测试7项领先GPT-6Astra

Anthropic于9月23日凌晨发布Claude5.5系列首款模型Opus5.5，官方称多数任务表现与Fable5.1相当，默认设置下典型任务成本较上代Opus5降低40%，输出速度提升超30%，已上线Claude及亚马逊云科技、谷歌云、微软Azure。

官方公布的9项测试中，Opus5.5有7项领先Fable5.1、Opus5及OpenAI的GPT-6Astra、GPT-5.6Sol。三项编程测试均取得最高分:Terminal-Bench4.0达66.4%，FrontierCode v1.1为54.4%，CursorBench4.0为57.8%，但业务流程与科研Agent测试落后于GPT-6Astra。Artificial Analysis Intelligence榜单上，其以58分位列第一，领先Fable5.1与GPT-6Astra的53分。

长任务表现是升级重点:内部测试中，Opus5.5用9.5小时完成负载均衡软件HAProxy从C语言到Rust的改写，成本较Fable5.1低51%;在需逐一核对数字与引语的财报研究测试中，其18份报告有16份达标，Fable5.1与Opus5均未通过;有早期测试者不到一天完成涉及68万行代码的迁移。

价格方面，每百万输入、输出Token收费4美元和20美元，较Opus5降20%，缓存读取降60%;Pro、Max等套餐五小时使用额度同步提高，订阅用户另获一次限额重置机会。

安全上，Opus5.5尝试绕过隔离边界的频率较Opus5降低约85%且自行报告相关行为，提示词注入防御与Fable5.1并列受测模型最低成功率;但大多数网络安全任务仍会转交Opus4.8，官方承认部署前评估无法发现所有失效情况。

发布近2小时后，OpenAI即推出GPT-6Sol与Luna;Sonnet5.5与Haiku5.5计划未来几周上线。以效率与成本压缩换取Agent规模化落地，正在成为头部模型竞争的主线。

via AI新闻资讯 (author: AI Base)