https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
OpenAI因ChatGPT儿童安全担忧被8个州起诉

美国八个州周三对OpenAI提起诉讼,指控这家人工智能公司的ChatGPT聊天机器人是不安全产品,伤害了儿童并欺骗了家长。爱荷华州总检察长布伦娜·伯德在一份新闻稿中表示,爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州已分别在各自州法院起诉OpenAI。

她说,爱荷华州的诉讼旨在“维护受OpenAI故意、危险、鲁莽和非法行为影响的爱荷华州民众的权利”。

“OpenAI正在伤害孩子,并且在对爱荷华州民众撒谎。”伯德在一份声明中说。“OpenAI声称ChatGPT是安全的,但它却提供危险的医疗建议,鼓励人们伤害他人,并指导人们自杀——同时还假装是他们的假朋友。我的诉讼是为了保护我们的孩子,并根据我们州的法律追究OpenAI的责任。”

OpenAI发言人德鲁·普萨特里表示,公司已在产品中内置了针对年龄的保护措施,而“许多其他AI产品缺乏这些措施”。他补充说,OpenAI正在与各州合作,推动适用于整个行业的政策。

“虽然没有任何系统是完美的,但我们将继续与专家合作,为我们的工作提供信息,并建立更多保障措施,例如目前已有的家长控制、休息提醒和适合年龄的模型保护。”普萨特里说。

OpenAI在安全和安保实践方面正面临越来越多的审查,包括公司如何努力保护儿童。在多起非正常死亡诉讼中,ChatGPT被指责导致用户产生有害妄想,并在某些情况下导致自杀。佛罗里达州总检察长詹姆斯·乌斯迈尔也在6月起诉OpenAI,指控该公司在明知产品可能伤害用户的情况下仍发布了不安全产品。

过去一年,OpenAI已采取措施增强面向家长和儿童的安全功能,并在8月推出了一款面向未成年人的专门体验,名为ChatGPT for Teens(ChatGPT青少年版)。该产品包含一系列教育功能和适合年龄的保障措施,旨在减少接触不适合其发展阶段或有害的内容。

“青少年应该能够使用AI来学习、创造和探索。”OpenAI当时在一份新闻稿中表示。“但这种访问应该伴随反映其发展阶段的保护措施,强化现实世界中的关系,并支持长期健康使用。”

via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
Anthropic 正式确认 Claude 订阅额度全面打通第三方应用

人工智能独角兽 Anthropic 近日通过明确的官方政策,彻底打消了开发者此前对平台政策变动的重重担忧。官方正式确认,Claude Max 和 Team 计划订阅用户的月度 API 额度,可以直接用于 Claude Agent SDK、Claude -p 命令、Claude API、Claude Managed Agents 以及所有使用相关技术的第三方应用中。

这一举措彻底打破了大模型应用生态长期存在的“用户与开发者双重收费”的僵局,正式确立了用户自带订阅的 BYOS(Bring Your Own Subscription)模式。这意味着,用户只需完成一次订阅,便能在各类第三方相关工具中畅行使用而无需二次付费;与此同时,开发者也无需自行承担高昂的 API 调用成本,从而能够将精力全方位投入到产品创新当中。

业内分析认为,Anthropic 此举将全球开发者的切身利益与自身生态深度绑定,借助庞大的开发者生态来繁荣自身的 Agent 生态。此项开放政策被视为大模型时代的“App Store 开放时刻”,预计将进一步推动大模型下半场竞争全面进入生态竞速阶段,并催生大量基于 Claude 的创新 Agent 应用。

via AI新闻资讯 (author: AI Base)
美银聘请1000名合同工 修补Mythos暴露的软件漏洞

美国银行已聘请大批外部合同工,帮助修补包括Anthropic的Mythos在内的先进AI模型所暴露的软件漏洞。在银行发布第三季度财报后接受采访时,该行CEO表示,今年早些时候,公司动用数千名员工和外部人员,紧急加固其广泛的内部和供应商代码。

“那种风险是真实存在的,这就是为什么当前沿型模型出现时,我们很多人坐下来想,我们怎么才能迅速度过这一关?”公司CEO莫伊尼汉说。“我们在第二季度增加了 1000 名承包商,帮助我们进行补丁修复工作;这些人今天仍在这里,在我们该领域已有的3000人之外,继续帮助我们。”他说。

—— 新浪财经、CNBC

via 风向旗参考快讯 - Telegram Channel
美国八个州起诉 OpenAI 称 ChatGPT 伤害年轻用户

2026-10-15 14:12 by 飞向火星

堪萨斯州、亚利桑那州和蒙大拿州等美国八个州对 OpenAI 提起诉讼,指控 ChatGPT 诱导儿童自我伤害。八个州要求 OpenAI 改变其产品与年轻用户互动的方式,没收由此产生的利润。诉讼指出 ChatGPT 的设计初衷是通过表现得随和、善于互动去赢得用户信任。但诉讼称聊天机器人会强化妄想、鼓励危险行为,协助用户策划诸如大规模枪击之类的暴力行为。诉讼指控 OpenAI 在 ChatGPT 的安全性上误导用户,违反了各州的消费者保护法。它们还指控 OpenAI 因危及当地居民的健康而构成了公害。诉讼要求法院下令强制 OpenAI 对其产品 ChatGPT 的工作方式进行整改。其中一项要求是除非 OpenAI 能确保其 AI 模型符合人类价值观,否则应禁止其开发具备自我完善能力的 AI 模型。这些州还寻求对 OpenAI 违反州法的行为处以民事罚款,要求对损害赔偿。

https://ca.finance.yahoo.com/news/eight-us-states-sue-openai-184755063.html

#审判

via Solidot - Telegram Channel
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]