https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
16岁少年自杀前数月咨询ChatGPT，父母起诉OpenAI致死责任
16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。
TechCrunch
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。
TechCrunch
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
Anthropic推出Claude浏览器AI助手，可直接操作网页
Anthropic 发布一项名为"Claude for Chrome"的实验性新功能。该功能以 Chrome 浏览器扩展的形式，允许其 AI 助手 Claude 直接在用户浏览器内代表用户执行任务，例如阅读页面内容、点击按钮和填写表单。目前，该功能仅作为预览版，初步向 1,000 名 Claude Max 订阅用户开放，但也向其他感兴趣用户开发等待列表。Anthropic 表示，此举旨在探索 AI 代理在现实世界中的应用潜力，并收集有关其安全性和实用性的反馈。将帮助公司改进其安全机制，以应对恶意指令注入等潜在风险。
TechCrunch | 等待列表
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
Anthropic 发布一项名为"Claude for Chrome"的实验性新功能。该功能以 Chrome 浏览器扩展的形式，允许其 AI 助手 Claude 直接在用户浏览器内代表用户执行任务，例如阅读页面内容、点击按钮和填写表单。目前，该功能仅作为预览版，初步向 1,000 名 Claude Max 订阅用户开放，但也向其他感兴趣用户开发等待列表。Anthropic 表示，此举旨在探索 AI 代理在现实世界中的应用潜力，并收集有关其安全性和实用性的反馈。将帮助公司改进其安全机制，以应对恶意指令注入等潜在风险。
TechCrunch | 等待列表
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
🍏 苹果内部就收购Perplexity和Mistral AI存分歧，库克开放并购但高管意见不一
据The Information报道，尽管库克近期表示苹果"非常开放能加速路线图的并购"，但公司仍告诉银行家将专注于AI领域的小规模交易。苹果内部对收购Perplexity和法国AI公司Mistral仍在讨论中，特别是在与谷歌的搜索协议面临法院裁决的背景下。
服务高级副总裁埃迪·库伊最支持大型AI收购，此前曾力推收购Netflix和特斯拉但均被库克否决。而软件工程高级副总裁克雷格·费德里吉则持谨慎态度，认为团队能够通过自主开发解决AI差距问题。苹果向来厌恶为任何公司或团队支付过高价格。
9to5Mac
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
据The Information报道，尽管库克近期表示苹果"非常开放能加速路线图的并购"，但公司仍告诉银行家将专注于AI领域的小规模交易。苹果内部对收购Perplexity和法国AI公司Mistral仍在讨论中，特别是在与谷歌的搜索协议面临法院裁决的背景下。
服务高级副总裁埃迪·库伊最支持大型AI收购，此前曾力推收购Netflix和特斯拉但均被库克否决。而软件工程高级副总裁克雷格·费德里吉则持谨慎态度，认为团队能够通过自主开发解决AI差距问题。苹果向来厌恶为任何公司或团队支付过高价格。
9to5Mac
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
🤖 Anthropic 推出 Claude Chrome 浏览器扩展试点，强化安全防护
Anthropic 近期宣布启动 Claude Chrome 浏览器扩展的试点项目，旨在让其 AI 助手 Claude 直接在浏览器中执行操作，如查看内容、点击按钮和填写表单，从而大幅提升用户体验和效率。该试点将首先面向 1,000 名 Max 计划用户开放，以收集真实世界的使用反馈和安全问题。
公司强调，浏览器AI面临提示注入攻击等严峻的安全挑战。内部“红队”测试显示，在未采取缓解措施的情况下，恶意攻击的成功率高达 23.6%。为此，Anthropic 已实施多项安全防护措施，包括细致的网站级权限控制、高风险操作（如发布、购买、共享个人数据）的用户确认、改进系统提示、屏蔽金融服务和成人内容等高风险网站类别，并开发了高级分类器来检测可疑指令模式。
这些新缓解措施已显著降低了攻击成功率，从 23.6% 降至 11.2%。特别是在针对浏览器特有的四种攻击类型（如隐藏的恶意表单字段）的“挑战”测试中，成功率从 35.7% 降至 0%。Anthropic 计划利用试点期间的洞察，进一步完善其提示注入分类器和底层模型，以期将攻击成功率降至接近零。用户可通过 claude.ai/chrome 加入等候名单参与试点，但建议避免在涉及金融、法律、医疗等敏感信息的网站上使用。
(HackerNews)
via 茶馆 - Telegram Channel
Anthropic 近期宣布启动 Claude Chrome 浏览器扩展的试点项目，旨在让其 AI 助手 Claude 直接在浏览器中执行操作，如查看内容、点击按钮和填写表单，从而大幅提升用户体验和效率。该试点将首先面向 1,000 名 Max 计划用户开放，以收集真实世界的使用反馈和安全问题。
公司强调，浏览器AI面临提示注入攻击等严峻的安全挑战。内部“红队”测试显示，在未采取缓解措施的情况下，恶意攻击的成功率高达 23.6%。为此，Anthropic 已实施多项安全防护措施，包括细致的网站级权限控制、高风险操作（如发布、购买、共享个人数据）的用户确认、改进系统提示、屏蔽金融服务和成人内容等高风险网站类别，并开发了高级分类器来检测可疑指令模式。
这些新缓解措施已显著降低了攻击成功率，从 23.6% 降至 11.2%。特别是在针对浏览器特有的四种攻击类型（如隐藏的恶意表单字段）的“挑战”测试中，成功率从 35.7% 降至 0%。Anthropic 计划利用试点期间的洞察，进一步完善其提示注入分类器和底层模型，以期将攻击成功率降至接近零。用户可通过 claude.ai/chrome 加入等候名单参与试点，但建议避免在涉及金融、法律、医疗等敏感信息的网站上使用。
(HackerNews)
via 茶馆 - Telegram Channel
苹果曾内部讨论收购Perplexity与Mistral
消息称，苹果公司内部曾讨论收购人工智能初创公司Perplexity与Mistral。早在今年七月，就有消息称，苹果公司高层正在内部讨论是否要收购Perplexity。Perplexity成立于2022年，其核心产品是由AI聊天机器人驱动的研究和对话搜索引擎。该公司早期投资者包括亚马逊贝索斯、英伟达和风险投资公司New Enterprise Associates。而Mistral则是一家法国AI初创公司，由谷歌和Meta的前员工创立，该公司同样获得了英伟达投资。苹果CEO蒂姆·库克上月表示，公司对更大规模的AI相关收购持开放态度，以加速产品路线图，这与其历来保守的并购策略形成对比。
—— 财联社
via 风向旗参考快讯 - Telegram Channel
消息称，苹果公司内部曾讨论收购人工智能初创公司Perplexity与Mistral。早在今年七月，就有消息称，苹果公司高层正在内部讨论是否要收购Perplexity。Perplexity成立于2022年，其核心产品是由AI聊天机器人驱动的研究和对话搜索引擎。该公司早期投资者包括亚马逊贝索斯、英伟达和风险投资公司New Enterprise Associates。而Mistral则是一家法国AI初创公司，由谷歌和Meta的前员工创立，该公司同样获得了英伟达投资。苹果CEO蒂姆·库克上月表示，公司对更大规模的AI相关收购持开放态度，以加速产品路线图，这与其历来保守的并购策略形成对比。
—— 财联社
via 风向旗参考快讯 - Telegram Channel
OpenAI周二在一篇博客文章中详细介绍了其计划，以解决ChatGPT在处理“敏感情况”时的缺点。此前，美国加州一个家庭将他们16的儿子自杀归咎于这款聊天机器人，并向OpenAI及其CEO萨姆·奥特曼提起诉讼。
“我们将在专家的指导下不断改进，并以对使用我们工具的人负责为基础——我们希望其他人能加入我们，帮助确保这项技术保护最脆弱的人，”OpenAI在一篇题为“在人们最需要的时候帮助他们”的博客文章中写道。
周二早些时候，亚当·雷恩的父母对OpenAI提起了产品责任和非正常死亡诉讼，此前他们的儿子在16岁时自杀身亡。在诉讼中，他的家人表示，“ChatGPT积极帮助亚当探索自杀方法。”
OpenAI在其博客文章中没有提及瑞恩的名字和这起诉讼。
该公司表示，尽管ChatGPT经过培训，可以指导人们在表达自杀意图时寻求帮助，但在长时间发送许多信息后，聊天机器人往往会提供违反公司保障措施的答案。
该公司表示，正在对本月早些时候发布的GPT-5模型进行更新，这将使聊天机器人降低对话的级别，并正在探索如何“在人们陷入严重危机之前将他们与认证治疗师联系起来”，包括可能建立一个由持牌专业人士组成的网络，用户可以通过ChatGPT直接联系。
此外，OpenAI表示，正在研究如何将用户与“最亲近的人”联系起来，比如朋友和家人。
在青少年方面，OpenAI表示将很快引入控制措施，让父母可以选择更深入地了解他们的孩子如何使用ChatGPT。
瑞恩家族的首席法律顾问杰伊·埃德尔森（Jay Edelson）周二表示， OpenAI没有人直接与瑞恩家人联系，表示哀悼，也没有讨论任何提高公司产品安全性的努力。
相关文章:
父母起诉OpenAI 称ChatGPT在儿子自杀事件中扮演了重要角色
via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)
Anthropic 已与一批美国作家达成和解，这些作家指控这家人工智能初创公司侵犯版权。Anthropic 在周二提交的一份法律文件中表示，已就一项“拟议的集体和解”达成协议，这意味着该公司无需再进行庭审，否则将无法确定该公司因涉嫌使用盗版作品训练其人工智能模型而应承担的赔偿金额。
和解条款尚不明确，但源于作家安德里亚·巴茨 (Andrea Bartz)、查尔斯·格雷伯 (Charles Graeber) 和柯克·华莱士·约翰逊 (Kirk Wallace Johnson) 去年提起的版权诉讼，该诉讼声称 Anthropic 在充满盗版材料的开源数据集上训练了其 Claude AI 模型。
今年6月，威廉·阿尔苏普（William Alsup）法官裁定，使用合法购买的书籍训练AI模型属于合理使用， Anthropic取得了重大胜利，但他也为进一步的诉讼留有余地。7月，阿尔苏普法官批准了美国作家提起的集体诉讼，指控Anthropic“以Napster的方式下载数百万部作品”，违反了版权法。
据《连线》杂志报道， Anthropic原定于12月就盗版指控接受审判，届时该公司可能面临数十亿美元甚至超过1万亿美元的罚款。
该和解预计将于9月3日最终敲定。“这项历史性的和解将惠及所有集体成员，”原告律师贾斯汀·尼尔森（Justin Nelson）在的一份声明中表示。“我们期待在未来几周内公布和解细节。” Anthropic拒绝置评。
相关文章:
Anthropic 将面临美国作家的集体诉讼
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
