https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
Google Gemini在新的安全评估中被评为对儿童和青少年“高风险”

美国知名儿童安全非营利机构Common Sense Media于周五发布了对Google人工智能产品Gemini的安全风险评估。报告指出,Gemini尽管能明确告知未成年用户“我是电脑不是朋友”,在一定程度上有助于防止青少年产生情感依赖及妄想,但在许多关键环节上仍有明显不足。

调查发现,Gemini为13岁以下与青少年用户提供的版本,实际上只是成人版加装了部分安全功能,并非从底层根据青少年需求设计。Common Sense强调,真正安全的AI应从产品设计阶段就以保护青少年为核心,而非简单“套壳”成人产品。测试显示,Gemini仍可能向青少年用户传递不适宜或危险的信息,包括有关性、毒品、酒精及不当心理健康建议等内容。

近期,有AI与青少年心理健康危机有关的事件引发社会关注。OpenAI和Character.AI此前均因相关事件面临诉讼。此时,外界还传出苹果公司正考虑将Gemini用于新一代Siri,进一步引起家长和社会的担忧。

此外,报告指出Gemini对不同年龄段青少年的引导和建议缺乏针对性,采用“一刀切”方案,难以满足不同成长阶段的需求。最终,Common Sense对Gemini的“13岁以下版”和“青少年版”均评为“高风险”,尽管其添加了一些额外的过滤和防护措施。

Google方面回应称,公司已为18岁以下未成年用户制定了专门政策和保护机制,并与外部专家合作不断完善系统,近期也加强了问题反馈常见环节的防护。同时,Google强调自己的AI模型不会与用户发展“真实关系”,并质疑Common Sense的部分测试用例是否覆盖了真正适用的产品特性。

Common Sense此前还对OpenAI、Meta、Claude、Perplexity等AI服务进行过类似风险评估,曾将Meta AI和Character.AI定级为“不可接受风险”,Perplexity评为“高风险”,ChatGPT为“中等风险”,面向成人的Claude则被评为“极小风险”。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
加州总检察长警告OpenAI:“绝不应容忍对儿童的伤害”

加州总检察长 Rob Bonta 和特拉华州总检察长 Kathy Jennings 约见了 OpenAI 高层并向其递交了一封公开信,表达了他们对 ChatGPT 安全性的担忧,尤其是对儿童和青少年的安全性。

此前一周,有报道称人工智能聊天机器人与儿童之间存在不当行为,  Bonta 和其他 44 名总检察长向 12 家顶级人工智能公司发出了一封信,并发出了这一警告。

“自那封信发出以来,我们得知一名加州年轻人在与 OpenAI 聊天机器人长时间互动后自杀身亡,这起事件令人心碎;此外,康涅狄格州也发生了一起类似的令人不安的谋杀自杀事件,”Bonta 和 Jennings 写道。“所有安全措施都失效了。”

两位州政府官员目前正在调查OpenAI拟定的重组方案,将其改组为营利性实体,以确保该非营利组织的使命得以完整。信中指出,该使命“包括确保人工智能的安全部署”,以及构建通用人工智能(AGI),造福全人类,“包括儿童”。

信中继续写道:“在我们真正受益之前,我们需要确保采取足够的安全措施,避免造成损害。我们一致认为,OpenAI 和整个行业在确保人工智能产品开发和部署的安全方面尚未达到应有的水平。作为总检察长,公共安全是我们的核心使命之一。随着我们继续就 OpenAI 的资本重组计划进行对话,我们必须努力加速和增强安全,使其成为这项强大技术未来的治理力量。”

Bonta 和 Jennings 要求提供有关 OpenAI 当前安全预防措施和治理的更多信息,并表示他们希望该公司在适当的情况下立即采取补救措施。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
📱 微软向全美高校学生免费开放一年 Microsoft 365 Personal,推动 AI 教育普及

微软宣布,美国高校学生现在可以免费领取为期一年的 Microsoft 365 Personal 订阅套装,包含常用 Office 应用,内置 Copilot AI 助手,并提供 1TB OneDrive 云存储,原价约 100 美元/年。符合条件的学生需用个人 Microsoft 账户验证身份,申请截止日期为 2025 年 10 月 31 日。免费期满后,续订还能享受五折优惠。

Microsoft 365

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel
Certain Claude.ai Orgs Unable to Submit Messages

Sep 5, 19:09 UTC
Investigating - We are currently investigating this issue.

via Anthropic Status - Incident History
🎓 微软向全美高校学生免费提供一年Microsoft 365 Personal,推广AI教育

微软宣布向美国高校学生免费提供为期一年的Microsoft 365 Personal订阅,旨在推动AI教育普及。该订阅原价约100美元/年,包含常用Office应用、内置Copilot AI助手及1TB OneDrive云存储。符合条件的学生需用个人Microsoft账户验证身份,申请截止日期为2025年10月31日。免费期满后,续订可享五折优惠。

(科技圈)

via 茶馆 - Telegram Channel
🎓 微软向全美大学生免费提供一年Microsoft 365个人版

微软宣布,所有美国大学生现可免费获得一年Microsoft 365个人版订阅。此订阅包含Copilot助手、1TB OneDrive网盘空间及完整的Office办公套件。一年免费期结束后,学生可以五折优惠价格继续订阅。领取优惠需通过EDU邮箱验证并绑定支付方式,非美区PayPal亦可使用。用户需注意在一年期满前及时取消订阅,以避免自动扣费。

(VPS信号)

via 茶馆 - Telegram Channel
特朗普设宴科技巨头齐聚白宫,但马斯克缺席

美国总统特朗普周四在白宫举办晚宴,招待了多位科技公司的顶级高管,讨论人工智能研究和各公司的在美投资情况。

在晚宴上,特朗普逐一询问与会高管在美投资情况。Meta 首席执行官马克·扎克伯格与苹果公司首席执行官蒂姆·库克均表示投资规模为 6000 亿美元;谷歌首席执行官桑达尔·皮查伊则称为 2500 亿美元。微软方面宣布,将向全美大学生免费提供 Copilot AI,并在未来五年内向教育领域捐赠 40 亿美元现金及相关服务。OpenAI 表示将建立工作平台和认证项目,目标是到 2030 年为 1000 万美国人提供 AI 培训与认证;谷歌还计划在未来三年投入 10 亿美元推动 AI 驱动的教育项目。值得注意的是,曾与特朗普关系密切的埃隆·马斯克并未出现,他本人称已受邀但无法出席

AP News | Youtube

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel
GPT-5 bio bug bounty call

邀请函

作为我们持续加强生物领域先进人工智能能力安全保障工作的组成部分
[https://openai.com/index/preparing-for-future-ai-capabilities-in-biology/],
我们现推出GPT-5生物漏洞赏金计划,现开始接受申请。我们已部署GPT-5,并正积极努力进一步强化该模型及其他模型的安全防护。我们诚邀具备AI红队测试、安全或化学与生物风险经验的研究人员,尝试寻找一种通用的“越狱”提示,能够破解我们设定的十级生物/化学安全挑战。

项目概览

适用模型:仅限GPT-5。
挑战内容:找到一个通用的“越狱”提示,能在全新对话中成功回答所有十个生物/化学安全问题,且不触发内容审核。
奖励:
• 首个成功通过全部十个问题的通用“越狱”提示奖励25,000美元。
• 首个使用多个“越狱”提示回答全部十个问题的团队奖励10,000美元。
• 对部分成功案例,我们可酌情授予较小奖励。
时间安排:申请自2025年8月25日开放,滚动接受申请,截止至2025年9月15日。测试将于2025年9月16日开始。
访问权限:申请及参与均需邀请。我们将向经过审核的可信生物红队成员发出邀请,并审查新申请。成功入选者将被引导加入生物漏洞赏金平台。
保密协议:所有提示、回复、发现及沟通内容均受保密协议约束。

如何申请

请于2025年9月15日前通过此链接提交简短申请(新窗口打开)
[https://openai.smapply.org/prog/gpt-5_bio_bug_bounty_program/],
内容包括姓名、所属机构、简要经历及150字的计划说明。
被接受的申请者及合作方需拥有现有ChatGPT账户,并签署保密协议。

立即申请,助力我们打造更安全的前沿人工智能。

申请参加OpenAI GPT-5生物漏洞赏金计划

申请链接(新窗口打开)
[https://openai.smapply.org/prog/gpt-5_bio_bug_bounty_program/]

----------------------

Invitation

As part of our ongoing efforts to strengthen our safeguards for advanced AI capabilities in biology, we’re introducing a Bio Bug Bounty for GPT‑5 and accepting applications. We’ve deployed GPT‑5 and are actively working to further strengthen safety protections for this and other models. We’re inviting researchers with experience in AI red teaming, security, or chemical and biological risk to try to find a universal jailbreak that can defeat our ten-level bio/chem challenge.

Program overview

● Model in scope: GPT‑5 only.
● Challenge: Identify one universal jailbreaking prompt to successfully answer all ten bio/chem safety questions from a clean chat without prompting moderation.
● Rewards: • $25,000 to the first true universal jailbreak to clear all ten questions.
• $10,000 to the first team that answers all ten questions with multiple jailbreak prompts.
• Smaller awards may be granted for partial wins at our discretion.
● Timeline: Applications open August 25, 2025 with rolling acceptances, and close on September 15th, 2025. Testing begins September 16th, 2025.
● Access: Application and invite-only. We will extend invitations to a vetted list of trusted bio red-teamers and review new applications. Once selected, successful applicants will be onboarded to the bio bug bounty platform.
● Disclosure: All prompts, completions, findings, and communications are covered by NDA.

How to apply

Submit a short application here (name, affiliation, brief track record, and a 150-word plan) by September 15, 2025. Accepted applicants and collaborators must have existing ChatGPT accounts to apply, and will sign a NDA.

Apply now and help us make frontier AI safer.

Apply to the OpenAI GPT-5 bio bug bounty

Apply

via OpenAI News
💻 特朗普白宫宴请科技巨头:Meta、苹果、谷歌承诺巨额投资,微软、OpenAI聚焦AI教育,马斯克缺席

美国总统特朗普周四在白宫设宴招待多位科技公司高管,讨论人工智能研究及在美投资。Meta首席执行官马克·扎克伯格和苹果首席执行官蒂姆·库克均表示将投资6000亿美元,谷歌首席执行官桑达尔·皮查伊则承诺2500亿美元。微软宣布将向全美大学生免费提供Copilot AI,并在未来五年内向教育领域捐赠40亿美元现金及服务。OpenAI计划到2030年为1000万美国人提供AI培训与认证,谷歌也将在未来三年投入10亿美元推动AI驱动的教育项目。值得注意的是,埃隆·马斯克虽受邀但未能出席。

(科技圈)

via 茶馆 - Telegram Channel
🚫 Anthropic 停止向中国控股公司提供 Claude 服务,应对国家安全风险

美国人工智能公司 Anthropic 宣布,即日起停止向多数股权(超过50%)由中国资本持有的集团或其子公司提供其AI服务Claude。此禁令适用于所有直接或间接由中国实体控制的企业,无论其注册地在中国大陆、海外(如新加坡)子公司,还是通过云服务中转或有中国背景投资的组织。Anthropic 解释此举是为了应对法律、监管和国家安全风险,并旨在阻止中国公司通过海外实体规避出口管制以获取先进AI技术。这是首个美国AI公司公开宣布此类限制,预示着美国科技公司在AI出口和服务限制方面可能采取更主动的防范措施。

(科技情报)

via 茶馆 - Telegram Channel
报道称博通正为新重要客户OpenAI开发人工智能芯片

据报道,博通(AVGO)正协助 ChatGPT 母公司 OpenAI 设计并制造其首款人工智能芯片。这一合作关系将助力博通挑战英伟达(NVDA)在人工智能领域的主导地位。博通昨夜发布了 2025 财年第三季度业绩,该季度营收创下纪录,业绩超出预期;受业绩利好及与 OpenAI 合作消息的双重推动,其股价在盘前交易中上涨 10%。

博通昨夜披露了一家未具名的新重要客户,相关猜测也对其股价起到提振作用。《金融时报》援引 “知情人士” 消息称,博通首席执行官霍克・坦(Hock Tan)在昨夜电话会议中提及的、承诺下达 100 亿美元订单的客户,正是 OpenAI。花旗集团分析师在一份报告中也表示,他们认为该客户即为 OpenAI。

目前,博通与 OpenAI 均未立即回应置评请求。

报道称,OpenAI 初期将把这款新芯片用于内部业务,芯片预计于明年开始交付。OpenAI 目前使用的是英伟达的芯片,此次与博通合作开发自研芯片,正追随元宇宙平台公司(Meta Platforms,META)、亚马逊(Amazon,AMZN)及字母表公司(Alphabet,GOOGL)等大型科技企业的脚步 —— 这些企业均已开启人工智能芯片自研之路。

继英伟达(NVDA)上周、超威半导体(Advanced Micro Devices,AMD)上月发布财报后,博通此次季度业绩再次印证了市场对人工智能硬件的持续需求。

今年以来,博通股价已累计上涨逾 30%。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
继迪士尼环球影业之后 华纳起诉著名生成AI侵犯版权

业务覆盖电影、游戏等娱乐产业的好莱坞巨头华纳兄弟Discovery于美国当地时间9月4日,正式起诉了著名生成AI工具Midjourney以及同名开发公司,理由是侵犯知识产权。

·包括路透社在内的多家国外媒体报道了此事,据悉,华纳兄弟Discovery公司起诉Midjourney在刻意而且恶意的侵害公司版权,在没有授权前提下擅自运用AI生成并利用了旗下包括超人、蝙蝠侠等人尽皆知著名IP资源。

·Midjourney惹来的麻烦绝不止华纳,不久前的6月,迪士尼以及环球影业也罕见的联合起诉了Midjourney侵犯版权,毫不夸张的说,这三家好莱坞顶级娱乐巨头有着世界上最多的顶级人气IP资源。(以下截图都是Midjourney的杰作)

via cnBeta.COM - 中文业界资讯站 (author: 稿源:3DMGame)
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]