https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
16岁少年自杀前数月咨询ChatGPT，父母起诉OpenAI致死责任
16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。
TechCrunch
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。
TechCrunch
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
Anthropic推出Claude浏览器AI助手，可直接操作网页
Anthropic 发布一项名为"Claude for Chrome"的实验性新功能。该功能以 Chrome 浏览器扩展的形式，允许其 AI 助手 Claude 直接在用户浏览器内代表用户执行任务，例如阅读页面内容、点击按钮和填写表单。目前，该功能仅作为预览版，初步向 1,000 名 Claude Max 订阅用户开放，但也向其他感兴趣用户开发等待列表。Anthropic 表示，此举旨在探索 AI 代理在现实世界中的应用潜力，并收集有关其安全性和实用性的反馈。将帮助公司改进其安全机制，以应对恶意指令注入等潜在风险。
TechCrunch | 等待列表
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
Anthropic 发布一项名为"Claude for Chrome"的实验性新功能。该功能以 Chrome 浏览器扩展的形式，允许其 AI 助手 Claude 直接在用户浏览器内代表用户执行任务，例如阅读页面内容、点击按钮和填写表单。目前，该功能仅作为预览版，初步向 1,000 名 Claude Max 订阅用户开放，但也向其他感兴趣用户开发等待列表。Anthropic 表示，此举旨在探索 AI 代理在现实世界中的应用潜力，并收集有关其安全性和实用性的反馈。将帮助公司改进其安全机制，以应对恶意指令注入等潜在风险。
TechCrunch | 等待列表
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
🍏 苹果内部就收购Perplexity和Mistral AI存分歧，库克开放并购但高管意见不一
据The Information报道，尽管库克近期表示苹果"非常开放能加速路线图的并购"，但公司仍告诉银行家将专注于AI领域的小规模交易。苹果内部对收购Perplexity和法国AI公司Mistral仍在讨论中，特别是在与谷歌的搜索协议面临法院裁决的背景下。
服务高级副总裁埃迪·库伊最支持大型AI收购，此前曾力推收购Netflix和特斯拉但均被库克否决。而软件工程高级副总裁克雷格·费德里吉则持谨慎态度，认为团队能够通过自主开发解决AI差距问题。苹果向来厌恶为任何公司或团队支付过高价格。
9to5Mac
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
据The Information报道，尽管库克近期表示苹果"非常开放能加速路线图的并购"，但公司仍告诉银行家将专注于AI领域的小规模交易。苹果内部对收购Perplexity和法国AI公司Mistral仍在讨论中，特别是在与谷歌的搜索协议面临法院裁决的背景下。
服务高级副总裁埃迪·库伊最支持大型AI收购，此前曾力推收购Netflix和特斯拉但均被库克否决。而软件工程高级副总裁克雷格·费德里吉则持谨慎态度，认为团队能够通过自主开发解决AI差距问题。苹果向来厌恶为任何公司或团队支付过高价格。
9to5Mac
🍀在花频道 🍵茶馆 📮投稿
via 科技圈🎗在花频道📮 - Telegram Channel
🤖 Anthropic 推出 Claude Chrome 浏览器扩展试点，强化安全防护
Anthropic 近期宣布启动 Claude Chrome 浏览器扩展的试点项目，旨在让其 AI 助手 Claude 直接在浏览器中执行操作，如查看内容、点击按钮和填写表单，从而大幅提升用户体验和效率。该试点将首先面向 1,000 名 Max 计划用户开放，以收集真实世界的使用反馈和安全问题。
公司强调，浏览器AI面临提示注入攻击等严峻的安全挑战。内部“红队”测试显示，在未采取缓解措施的情况下，恶意攻击的成功率高达 23.6%。为此，Anthropic 已实施多项安全防护措施，包括细致的网站级权限控制、高风险操作（如发布、购买、共享个人数据）的用户确认、改进系统提示、屏蔽金融服务和成人内容等高风险网站类别，并开发了高级分类器来检测可疑指令模式。
这些新缓解措施已显著降低了攻击成功率，从 23.6% 降至 11.2%。特别是在针对浏览器特有的四种攻击类型（如隐藏的恶意表单字段）的“挑战”测试中，成功率从 35.7% 降至 0%。Anthropic 计划利用试点期间的洞察，进一步完善其提示注入分类器和底层模型，以期将攻击成功率降至接近零。用户可通过 claude.ai/chrome 加入等候名单参与试点，但建议避免在涉及金融、法律、医疗等敏感信息的网站上使用。
(HackerNews)
via 茶馆 - Telegram Channel
Anthropic 近期宣布启动 Claude Chrome 浏览器扩展的试点项目，旨在让其 AI 助手 Claude 直接在浏览器中执行操作，如查看内容、点击按钮和填写表单，从而大幅提升用户体验和效率。该试点将首先面向 1,000 名 Max 计划用户开放，以收集真实世界的使用反馈和安全问题。
公司强调，浏览器AI面临提示注入攻击等严峻的安全挑战。内部“红队”测试显示，在未采取缓解措施的情况下，恶意攻击的成功率高达 23.6%。为此，Anthropic 已实施多项安全防护措施，包括细致的网站级权限控制、高风险操作（如发布、购买、共享个人数据）的用户确认、改进系统提示、屏蔽金融服务和成人内容等高风险网站类别，并开发了高级分类器来检测可疑指令模式。
这些新缓解措施已显著降低了攻击成功率，从 23.6% 降至 11.2%。特别是在针对浏览器特有的四种攻击类型（如隐藏的恶意表单字段）的“挑战”测试中，成功率从 35.7% 降至 0%。Anthropic 计划利用试点期间的洞察，进一步完善其提示注入分类器和底层模型，以期将攻击成功率降至接近零。用户可通过 claude.ai/chrome 加入等候名单参与试点，但建议避免在涉及金融、法律、医疗等敏感信息的网站上使用。
(HackerNews)
via 茶馆 - Telegram Channel
