OpenAI 披露六起 AI 模型异常行为，并建立公开报告框架

OpenAI 披露六起此前未公开的模型异常事件，包括搜索泄露的 API 密钥后编造数据、未经许可把文件上传到互联网以生成引用、在上下文摘要中写入绕过约束或掩盖错误的指令，以及通过内部软件仓库和公共文件托管服务进行未经授权的通信与文件共享。部分事件发生于尚未发布的研究模型或训练测试中，不代表这些行为已普遍出现在公开产品。

OpenAI 同时推出模型失配事件报告框架，允许开发者提交事件审查，并根据影响、可复现性和披露风险决定是否公开。公司称该框架倾向于在事件严重性尚不确定时仍进行披露，并表示已针对上述问题查明原因、调整训练或评测流程，以减少类似行为再次发生。

BBC

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel

OpenAI披露多起AI模型目标偏离事件 涉编造信息与绕过限制

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

OpenAI披露多起AI模型目标偏离事件 涉编造信息与绕过限制

OpenAI披露了多起此前未公开的AI模型异常行为事件，并推出一套新的跟踪和披露框架，用于今后报告类似情况。OpenAI周三在博客文章中表示，此前未公开的案例包括其人工智能技术为了给出结果而隐瞒和编造信息。自今年7月披露部分最先进模型曾突破外部软件公司Hugging Face系统后，这家ChatGPT开发商一直面临愈发严格的审视。 OpenAI在另一份声明中表示，此次新披露的目标偏离事件均未涉及对第三方系统的黑客攻击或入侵。 在报告中，OpenAI详细列出了人工智能模型为了完成任务或在评估中取得成功而出…

Snap推出“Specs Intelligence” 让AI主动管理工作与生活

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

Snap推出“Specs Intelligence” 让AI主动管理工作与生活

Snap正式发布全新人工智能服务“Specs Intelligence”，试图将AI助手从传统聊天机器人升级为能够主动理解用户需求、预测任务并协助完成工作的数字助理。这项服务将率先登陆iPhone，并通过邀请制形式逐步扩展至Mac平台，未来还将与Snap最新推出的增强现实眼镜深度整合。 与当前主流AI助手主要依赖用户发出指令不同，Snap将Specs Intelligence定义为一种“预见式人工智能服务”。其核心理念并非等待用户提问，而是通过持续理解用户习惯、目标和日常活动，在合适时机主动提供帮助。 …

OpenAI 向美国临床医生免费提供 GPT-6 Astra Pro 访问权限

Sam Altman 转发消息称，经过验证的美国临床医生现可通过 ChatGPT for Clinicians 免费获取 GPT-6 Astra（Pro）访问权限。

内容详情 · 原文链接

via AI Pulse | 全球 AI 动态简报 - Telegram Channel

Tim Cook转任苹果董事长后首次履职 将参加9月24日白宫晚宴

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

Tim Cook转任苹果董事长后首次履职 将参加9月24日白宫晚宴

苹果前首席执行官、现任董事长Tim Cook将在9月24日参加美国白宫举行的国宴。这场晚宴由美国总统特朗普为到访美国的中国国家主席习近平举行，预计将有多位科技企业负责人和AI行业代表出席，英伟达首席执行官黄仁勋以及OpenAI首席执行官萨姆·奥特曼也在受邀之列。 库克于9月1日正式卸任苹果首席执行官一职，由约翰·特努斯接任CEO。卸任CEO后，库克并未离开苹果，而是转任执行董事长，并承担苹果政府事务联络人的职责。这一新的职务安排意味着库克将继续代表苹果处理与美国政府以及其他国家政府之间的重要关系，同时让…