Anthropic CEO呼吁放缓前沿AI模型开发 引入常驻独立评估人员

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

Telegraph

Anthropic CEO呼吁放缓前沿AI模型开发 引入常驻独立评估人员

Anthropic首席执行官达里奥·阿莫代伊提出一项三阶段人工智能安全框架，主张控制前沿模型能力提升速度，为安全和对齐研究争取时间。Anthropic将率先允许第三方评估人员长期进入公司内部，核查安全措施、报告事件并评估模型训练过程。 Anthropic将引入常驻外部评估团队 阿莫代伊在题为《必须控制前沿进展速度》的文章中提出，前沿人工智能企业应向独立第三方评估团队提供持续、接近普通员工的内部访问权限。评估人员将核查企业是否遵守安全承诺、调查和报告事故，并对模型及其训练流程进行对齐评估。 Anthrop…

Codex GitHub Review and Pull Request Failures

Status: Identified

We have identified an upstream GitHub service disruption affecting review publication and pull request creation in Codex. Follow GitHub’s status page "GitHub’s status page": https://www.githubstatus.com/ for updates. We expect these workflows to recover as GitHub restores service. We are working on implementing a mitigation.

Affected components
● Codex in ChatGPT Desktop (Degraded performance)

via OpenAI status

GPT-6 Astra开放Plus 20美元只能拿它干活，不能聊天

via cnBeta.COM - 中文业界资讯站 (author: 稿源：新智元)

Telegraph

GPT-6 Astra开放Plus 20美元只能拿它干活，不能聊天

OpenAI Plus用户的GPT-6 Astra，终于开始陆续到账了。9月3日，OpenAI发布GPT-6 Astra，官方说“未来数日”将推送给所有Plus、Pro、Business和Enterprise用户。到了9月4日，奥特曼在X上宣布：Astra现在向所有Plus和Business用户开放了。 Codex负责人Tibo也发帖，确认推送已经到了Plus。 可当许多Plus用户点开ChatGPT，翻遍模型列表都没发现Astra。 把顶上的入口从Chat拨到Work或者Codex，这才有了。 原来O…

AI越强，OpenAI和Anthropic为什么反而想踩刹车？

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Telegraph

AI越强，OpenAI和Anthropic为什么反而想踩刹车？

9月13日，据《金融时报》、TechCrunch等报道，在过去几年持续竞逐更强大模型后，OpenAI和Anthropic正在公开讨论一个看起来与AI竞赛方向相反的问题：是否应该主动控制最前沿AI能力的开发速度，为安全研究和防护措施争取更多时间。 Anthropic CEO达里奥·阿莫代伊（Dario Amodei）近日明确提出，需要“放慢提升AI模型能力的速度”。OpenAI CEO萨姆·奥特曼（Sam Altman）随后表示，他认同需要“控制前沿AI的发展节奏（pace the frontier）”，…