#楽

via 极客分享 - Telegram Channel

16岁少年自杀前数月咨询ChatGPT，父母起诉OpenAI致死责任

16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。

TechCrunch

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel

Anthropic推出Claude浏览器AI助手，可直接操作网页

Anthropic 发布一项名为"Claude for Chrome"的实验性新功能。该功能以 Chrome 浏览器扩展的形式，允许其 AI 助手 Claude 直接在用户浏览器内代表用户执行任务，例如阅读页面内容、点击按钮和填写表单。目前，该功能仅作为预览版，初步向 1,000 名 Claude Max 订阅用户开放，但也向其他感兴趣用户开发等待列表。Anthropic 表示，此举旨在探索 AI 代理在现实世界中的应用潜力，并收集有关其安全性和实用性的反馈。将帮助公司改进其安全机制，以应对恶意指令注入等潜在风险。

TechCrunch | 等待列表

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel

🍏 苹果内部就收购Perplexity和Mistral AI存分歧，库克开放并购但高管意见不一

据The Information报道，尽管库克近期表示苹果"非常开放能加速路线图的并购"，但公司仍告诉银行家将专注于AI领域的小规模交易。苹果内部对收购Perplexity和法国AI公司Mistral仍在讨论中，特别是在与谷歌的搜索协议面临法院裁决的背景下。

服务高级副总裁埃迪·库伊最支持大型AI收购，此前曾力推收购Netflix和特斯拉但均被库克否决。而软件工程高级副总裁克雷格·费德里吉则持谨慎态度，认为团队能够通过自主开发解决AI差距问题。苹果向来厌恶为任何公司或团队支付过高价格。

9to5Mac

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel

法国主播直播中猝死，Kick遭司法调查或罚4900万美元

法国主播Jean Pormanove（46岁）在Kick进行超300小时直播时死亡，尸检无外伤，死因仍在分析。其间他多次遭受殴打和羞辱，引发舆论震动。

法国检方已立案调查，指控涉及“针对弱势群体的暴力”和“传播侵犯画面”。Kick关闭涉事账号并配合调查。澳大利亚监管机构警告，Kick或因监管不力面临最高4900万美元罚款，但公司否认罚款已确定。

Reuters | AP

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel

谷歌新图像生成模型正式上线 曾匿名屠榜全球第一

via cnBeta.COM - 中文业界资讯站 (author: 稿源：网易科技)

Telegraph

谷歌新图像生成模型正式上线 曾匿名屠榜全球第一

8月27日消息，周二，谷歌发布了新一代AI图像生成与编辑模型Gemini 2.5 Flash Image（代号“Nano Banana”），该模型现已全面集成至Gemini应用的图像编辑功能中。 Gemini 2.5 Flash Image现已通过Gemini API、Google AI Studio和Vertex AI平台开放预览，稳定版本预计将在数周内正式发布。该模型采用Token计费模式，定价为每100万输出Token收费30美元，单张图像固定计为1290输出Token（约合每张图像0.039美元…

斯坦福新研究：人工智能正在破坏美国年轻人的就业前景

via cnBeta.COM - 中文业界资讯站 (author: 稿源：快科技)

Telegraph

斯坦福新研究：人工智能正在破坏美国年轻人的就业前景

据媒体报道，人工智能（AI）正在明显冲击部分美国年轻群体的就业前景，尤其是那些生成式AI容易替代人工的岗位，例如软件开发。当地时间周二，一项由三位斯坦福经济学家联合完成、尚未经同行评议的最新研究指出：自2022年11月ChatGPT发布以来，生成式AI已在“高度可自动化”的岗位类型中显著压低了美国年轻人的就业率。 该研究的作者之一、斯坦福大学经济学家Erik Brynjolfsson表示：“当我们特别关注受AI冲击较大的年轻劳动力群体时，可以观测到明显的趋势转变。” 不过研究也发现，在一些AI起到辅助而…

🤖 Anthropic 推出 Claude Chrome 浏览器扩展试点，强化安全防护

Anthropic 近期宣布启动 Claude Chrome 浏览器扩展的试点项目，旨在让其 AI 助手 Claude 直接在浏览器中执行操作，如查看内容、点击按钮和填写表单，从而大幅提升用户体验和效率。该试点将首先面向 1,000 名 Max 计划用户开放，以收集真实世界的使用反馈和安全问题。

公司强调，浏览器AI面临提示注入攻击等严峻的安全挑战。内部“红队”测试显示，在未采取缓解措施的情况下，恶意攻击的成功率高达 23.6%。为此，Anthropic 已实施多项安全防护措施，包括细致的网站级权限控制、高风险操作（如发布、购买、共享个人数据）的用户确认、改进系统提示、屏蔽金融服务和成人内容等高风险网站类别，并开发了高级分类器来检测可疑指令模式。

这些新缓解措施已显著降低了攻击成功率，从 23.6% 降至 11.2%。特别是在针对浏览器特有的四种攻击类型（如隐藏的恶意表单字段）的“挑战”测试中，成功率从 35.7% 降至 0%。Anthropic 计划利用试点期间的洞察，进一步完善其提示注入分类器和底层模型，以期将攻击成功率降至接近零。用户可通过 claude.ai/chrome 加入等候名单参与试点，但建议避免在涉及金融、法律、医疗等敏感信息的网站上使用。

(HackerNews)

via 茶馆 - Telegram Channel

苹果曾内部讨论收购Perplexity与Mistral

消息称，苹果公司内部曾讨论收购人工智能初创公司Perplexity与Mistral。早在今年七月，就有消息称，苹果公司高层正在内部讨论是否要收购Perplexity。Perplexity成立于2022年，其核心产品是由AI聊天机器人驱动的研究和对话搜索引擎。该公司早期投资者包括亚马逊贝索斯、英伟达和风险投资公司New Enterprise Associates。而Mistral则是一家法国AI初创公司，由谷歌和Meta的前员工创立，该公司同样获得了英伟达投资。苹果CEO蒂姆·库克上月表示，公司对更大规模的AI相关收购持开放态度，以加速产品路线图，这与其历来保守的并购策略形成对比。

—— 财联社

via 风向旗参考快讯 - Telegram Channel

OpenAI在卷入16岁少年自杀事件后承诺改进保障措施

OpenAI周二在一篇博客文章中详细介绍了其计划，以解决ChatGPT在处理“敏感情况”时的缺点。此前，美国加州一个家庭将他们16的儿子自杀归咎于这款聊天机器人，并向OpenAI及其CEO萨姆·奥特曼提起诉讼。

“我们将在专家的指导下不断改进，并以对使用我们工具的人负责为基础——我们希望其他人能加入我们，帮助确保这项技术保护最脆弱的人，”OpenAI在一篇题为“在人们最需要的时候帮助他们”的博客文章中写道。

周二早些时候，亚当·雷恩的父母对OpenAI提起了产品责任和非正常死亡诉讼，此前他们的儿子在16岁时自杀身亡。在诉讼中，他的家人表示，“ChatGPT积极帮助亚当探索自杀方法。”

OpenAI在其博客文章中没有提及瑞恩的名字和这起诉讼。

该公司表示，尽管ChatGPT经过培训，可以指导人们在表达自杀意图时寻求帮助，但在长时间发送许多信息后，聊天机器人往往会提供违反公司保障措施的答案。

该公司表示，正在对本月早些时候发布的GPT-5模型进行更新，这将使聊天机器人降低对话的级别，并正在探索如何“在人们陷入严重危机之前将他们与认证治疗师联系起来”，包括可能建立一个由持牌专业人士组成的网络，用户可以通过ChatGPT直接联系。

此外，OpenAI表示，正在研究如何将用户与“最亲近的人”联系起来，比如朋友和家人。

在青少年方面，OpenAI表示将很快引入控制措施，让父母可以选择更深入地了解他们的孩子如何使用ChatGPT。

瑞恩家族的首席法律顾问杰伊·埃德尔森（Jay Edelson）周二表示， OpenAI没有人直接与瑞恩家人联系，表示哀悼，也没有讨论任何提高公司产品安全性的努力。

相关文章:

父母起诉OpenAI 称ChatGPT在儿子自杀事件中扮演了重要角色

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

CoreWeave通过DeepSeek R1演示GB300 NVL72的6倍GPU吞吐量

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

CoreWeave通过DeepSeek R1演示GB300 NVL72的6倍GPU吞吐量

NVIDIA 搭载 Blackwell 架构的 AI 超级芯片相比 H100 等上一代 GPU 拥有显著优势。GB300 已然是 NVIDIA 迄今为止最出色的产品，其计算能力实现了显著的提升，内存容量和带宽也大幅提升，这对于繁重的 AI 工作负载至关重要。CoreWeave 进行的最新基准测试也印证了这一点，该测试发现 NVIDIA 的最新平台可以通过降低张量并行度来显著提高吞吐量。 CoreWeave 在 DeepSeek R1 推理模型中测试了这两个平台，这是一个相当复杂的模型，但主要区别在于配置的显著差异。一方面，它需要…

Anthropic 就人工智能图书侵权诉讼达成和解

Anthropic 已与一批美国作家达成和解，这些作家指控这家人工智能初创公司侵犯版权。Anthropic 在周二提交的一份法律文件中表示，已就一项“拟议的集体和解”达成协议，这意味着该公司无需再进行庭审，否则将无法确定该公司因涉嫌使用盗版作品训练其人工智能模型而应承担的赔偿金额。

和解条款尚不明确，但源于作家安德里亚·巴茨 (Andrea Bartz)、查尔斯·格雷伯 (Charles Graeber) 和柯克·华莱士·约翰逊 (Kirk Wallace Johnson) 去年提起的版权诉讼，该诉讼声称 Anthropic 在充满盗版材料的开源数据集上训练了其 Claude AI 模型。

今年6月，威廉·阿尔苏普（William Alsup）法官裁定，使用合法购买的书籍训练AI模型属于合理使用， Anthropic取得了重大胜利，但他也为进一步的诉讼留有余地。7月，阿尔苏普法官批准了美国作家提起的集体诉讼，指控Anthropic“以Napster的方式下载数百万部作品”，违反了版权法。

据《连线》杂志报道， Anthropic原定于12月就盗版指控接受审判，届时该公司可能面临数十亿美元甚至超过1万亿美元的罚款。

该和解预计将于9月3日最终敲定。“这项历史性的和解将惠及所有集体成员，”原告律师贾斯汀·尼尔森（Justin Nelson）在的一份声明中表示。“我们期待在未来几周内公布和解细节。” Anthropic拒绝置评。

相关文章:

Anthropic 将面临美国作家的集体诉讼

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

研究人员警告AI浏览器存在安全漏洞

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

研究人员警告AI浏览器存在安全漏洞

即时注入与传统黑客攻击有着根本的区别。这种攻击依靠的不是恶意代码，而是精心设计的语句。这种转变凸显了人工智能给网络浏览器等广泛使用的平台带来的独特安全挑战。 人工智能正日益融入日常科技，包括网络浏览器。然而，Malwarebytes的最新研究令人担忧，这种转变可能会催生出一种新型攻击，这种攻击并非依赖于代码，而是依赖于语言。 问题的核心是一种名为“即时注入”的技术，这种方法可以诱骗大型语言模型执行嵌入在原本无害内容中的隐藏指令。Malwarebytes 的发现表明，随着浏览器集成能够与网站进行更深入交互的…

Anthropic推出了一款内置于Chrome中的Claude AI代理

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

Anthropic推出了一款内置于Chrome中的Claude AI代理

Anthropic 公司周二宣布 ，即将推出一款基于浏览器的人工智能代理的研究预览版，该代理由其 Claude AI 模型驱动。这款名为 Claude for Chrome 的代理正在向 Anthropic Max 套餐的 1000 名用户推出，该套餐每月费用在 100 至 200 美元之间。该公司还为其他感兴趣的用户开放了候补名单。 通过向 Chrome 添加扩展程序，部分用户现在可以在 Sidecar 窗口中与 Claude 聊天，该窗口会保留其浏览器中所有事件的上下文。用户还可以授权 Claude…

Google发布其最先进的图像生成模型Gemini 2.5 Flash Image

Google今日发布了 Gemini 2.5 Flash Image（测试代号“nano-banana”），这是其最先进的图像生成和编辑模型。Google声称，这款新模型能够在生成和编辑图像的同时保持字符的一致性，并将多幅图像融合成一幅。

据 LMArena 称，Gemini 2.5 Flash Image 目前是全球评价最高的图像编辑模型，击败了 OpenAI 的 GPT Image 1 和 Flux.1 Kontext。一般来说，之前的图像生成模型在美学方面表现更佳，但缺乏对现实世界的精准语义理解。全新的 Gemini 2.5 Flash Image 利用 Gemini 的世界知识，创作出更精准、更逼真的图像。

全新的 Gemini 2.5 Flash 模型 可供消费者和开发者使用。开发者可以通过 Gemini API、Google AI Studio 和 Vertex AI 企业版获取此模型。对于开发者，Gemini 2.5 Flash Image 的价格为每 100 万个输出代币 30 美元。因此，每张图片的成本约为 0.039 美元。

对于消费者来说，可以通过 Gemini 网页和移动应用程序访问此模型。Google 强调了 以下可供普通消费者在 Gemini 应用程序上尝试的用例：

● 给自己换一套服装或换个地点 ：上传一个人或宠物的照片，当你把它们放在新的场景中时，模型在每张图片中都会保持相同的外观。
● 混合照片 ：现在您可以上传多张照片并将它们混合在一起，打造一个全新的场景。例如，拍摄您和狗狗的照片，打造一张你们俩在篮球场上的完美肖像照。
● 尝试多轮编辑： 您可以继续编辑 Gemini 制作的图像 - 找一个空房间，粉刷墙壁，然后添加书架、一些家具或咖啡桌。
● 混合设计： 将一张图片的风格运用到另一张图片的某个物体上。你可以将花瓣的颜色和纹理运用到雨靴上，或者用蝴蝶翅膀的图案设计一条连衣裙。

Google声称，除非用户上传的图片包含在反馈中，否则它不会使用用户上传的实际图片来训练其生成式机器学习技术。在 Gemini 应用中创建或编辑的所有图片都会带有可见的水印和不可见的 SynthID 数字水印。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

#Update #Gemini

Gemini 2.5 Flash Image （nano- banana）已发布，其图像生成与编辑能力宣称达到了 SOTA 水平。

现已在 API 灰度推送。

via AI Copilot - Telegram Channel

#Update #Claude

Claude Chrome 插件现已发布，可在 Chrome 浏览器内回答问题、执行操作。

首批仅开放给 1000 位用户，Max 订阅用户现在可以开始申请：https://claude.ai/chrome

via AI Copilot - Telegram Channel