Anthropic阻止黑客利用Claude进行网络犯罪

Anthropic周三表示，已发现并阻止了试图滥用其Claude AI系统编写网络钓鱼邮件、创建恶意代码和规避安全过滤器的黑客。该公司的报告称，其内部系统已阻止这些攻击，并正在共享这些案例研究，展示攻击者如何试图使用Claude生成有害内容，以帮助他人了解风险。该报告列举了试图使用Claude起草定制钓鱼邮件、编写或修改恶意代码片段以及通过重复提示绕过安全防护的尝试。报告还描述了通过大规模生成具有说服力的帖子来策划影响活动，以及通过分步指导协助低技能黑客的努力。Anthropic表示，其遵循严格的安全实践，包括定期测试和外部审查并计划在发现重大威胁时持续发布报告。

—— 路透社

via 风向旗参考快讯 - Telegram Channel

2025年8月28日
🌍资讯快读
1、市场监管总局召开个体工商户座谈会
https://www.jiemian.com/article/13259905.html
2、北方稀土成交额达200亿元
https://www.jiemian.com/article/13258657.html
3、苹果发布会定档北京时间9月10日，预计将发布iPhone 17系列
https://www.jiemian.com/article/13251621.html
4、SpaceX“星舰”成功溅落，第十次试飞圆满结束
https://www.jiemian.com/article/13253360.html

👬即刻镇小报
1、NanoBanana 拯救拍照手残党
https://m.okjike.com/originalPosts/68ae6ce22393a294a617da71
2、埃隆的工作之道
https://m.okjike.com/originalPosts/68ae356b2393a294a613356b
3、学到一个用AI布局店铺笔记搜索关键词的技巧
https://m.okjike.com/originalPosts/68add3c61e5664293d409058
4、Claude Code 为什么这么牛
https://m.okjike.com/originalPosts/68adcb831e5664293d3ff4dd

今日即刻镇小报内容来自 @歸藏 @大黑天 @李嘉月 @Kenny_肯尼 ，感谢以上即友的创作与分享。 #一觉醒来发生了什么

界面新闻
市场监管总局召开个体工商户座谈会

8月22日，市场监管总局副局长白清元主持召开个体工商户座谈会，与个体工商户、平台企业、金融机构等代表深入交流，总结工作成效，听取意见建议，研究推动下一步工作。

via 即刻精选 - Telegram Channel

路透社：字节跳动估值超3300亿美元 Q2收入约480亿美元

via cnBeta.COM - 中文业界资讯站 (author: 稿源：BiaNews鞭牛士)

Telegraph

路透社：字节跳动估值超3300亿美元 Q2收入约480亿美元

据路透社报道，三位知情人士表示，短视频应用 TikTok 的所有者字节跳动将启动一项新的员工股票回购计划，受持续收入增长的推动，这家中国科技巨头的估值将超过 3300 亿美元。 知情人士称，该公司计划在回购计划中向现有员工提供每股 200.41 美元的股票，较约六个月前每股 189.90 美元的股票上涨 5.5%，当时字节跳动的估值约为 3150 亿美元。 预计回购将于秋季启动。 知情人士表示，字节跳动将以更高的估值进行最新一次回购，其第二季度营收同比增长 25%，巩固了其作为全球最大社交媒体公司的地位。…

OpenAI and Anthropic share findings from a joint safety evaluation

via OpenAI News

Openai

Findings from a pilot Anthropic–OpenAI alignment evaluation exercise: OpenAI Safety Tests

OpenAI and Anthropic share findings from a first-of-its-kind joint safety evaluation, testing each other’s models for misalignment, instruction following, hallucinations, jailbreaking, and more—highlighting progress, challenges, and the value of cross-lab…

Collective alignment: public input on our Model Spec

via OpenAI News

Telegraph

Collective alignment: public input on our Model Spec

没有任何个人或机构应当为所有人定义理想的人工智能行为。 为了实现确保通用人工智能（AGI）惠及全人类的使命，OpenAI 需要构建能够反映我们服务的所有人群广泛价值观和优先事项的系统。我们通过多种方式实现这一目标，包括外部反馈表、专家意见和全球倾听会议。另一种方式是通过“集体对齐”研究，收集关于模型应如何表现的多样化观点。人工智能系统应遵循哪些价值观是一个复杂的问题，尤其在主观、有争议或高风险的情境下，我们并没有所有答案。随着人工智能能力的提升并日益融入人们生活，其默认行为及个性化边界必须反映广泛的观点和价值观。…

a16z最新AI报告显示Google和Grok正在赶超 ChatGPT

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

a16z最新AI报告显示Google和Grok正在赶超 ChatGPT

根据风险投资公司 Andreessen Horowitz 发布的一份专注于消费者人工智能领域的新报告， ChatGPT 的竞争对手，如Google的 Gemini、xAI 的 Grok 以及程度较轻的 Meta AI，正在缩小与 OpenAI 流行的人工智能聊天机器人 ChatGPT 的差距。该报告已是第五次发布，展示了两年半以来消费者对人工智能产品使用情况的数据。 14 家公司第五次出现在顶级 AI 产品榜单上：ChatGPT、Perplexity、Poe、Character AI、Midjourne…

WhatsApp的新AI功能可让您重新措辞并调整消息的语气

Meta公司旗下的 WhatsApp周三宣布，该公司将推出一项新的人工智能功能，允许用户改写、校对或调整消息的语气。这项名为“写作帮助”的新功能采用了 Meta 的隐私处理技术，允许用户接收人工智能生成的回复，而无需 Meta 或 WhatsApp 阅读原始消息或建议的改写，这意味着即使用户使用这款新工具，平台上的消息仍保持私密。

通过写作帮助，用户可以获得人工智能生成的建议，以专业、有趣、支持或改写的方式重写他们的信息。

WhatsApp 在一张产品图片中展示了这项功能，图片中展示了用户的原始信息：“请不要把脏袜子留在沙发上。” 随后，AI 会提供一些“有趣”的改写，例如：“请不要把沙发变成袜子的坟场”、“突发新闻：袜子在沙发上很冷。请把它们移走”以及“嘿，袜子忍者，洗衣篮在那边！”

图片来源： WhatsApp

通过此次发布，WhatsApp 可能希望人们在起草消息时使用其应用内技术，而不是 ChatGPT 等外部工具。

当然，并非所有人都会喜欢这项新功能，因为用户可能更喜欢与亲朋好友进行真实、私密的对话，而不是人工智能生成的消息。用人工智能改写电子邮件是一回事，用它给你的奶奶发消息又是另一回事。

WhatsApp 表示，用户可以通过点击应用程序中起草消息时出现的新铅笔图标来访问新功能。从周三开始，“写作帮助”将在部分国家推出英文版。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

微软将 Copilot 引入三星电视和智能显示器

微软今日宣布，Copilot 现已在部分三星电视和显示器上推出。全新的 Copilot 体验让用户能够利用大型语言模型的强大功能获取问题的答案。这些问题涵盖广泛的主题，包括电影和电视剧、天气等常规信息等等。

与大多数其他 Gen AI 助手不同，三星电视和显示器上的 Copilot 将拥有直观的视觉效果。Copilot 将以可爱的小动画形式呈现，它会在说话时做出反应并进行口型同步。它甚至会展现与对话语气相匹配的表情。除了读出回复之外，Copilot 还可以显示电影、天气和图像结果的概览卡片，其中包含评分、照片和关键细节。

Copilot 在三星电视和显示器上的运行方式如下：

● 如果相关设备已完成推出，Copilot 将自动出现在 Samsung Daily+ 内的 Samsung Tizen OS 主屏幕上（位于“应用程序”选项卡上）。
● 用户可以按下三星遥控器上的麦克风按钮提出问题。Copilot 将通过视觉和语音相结合的方式进行回应。
● 对于喜欢 Copilot 的个性化、记忆和已存储偏好设置的用户，他们可以使用快速二维码连接他们现有的微软帐户。

微软重点介绍了人们可以在三星电视和智能显示器上向 Copilot 询问的一些示例问题：

● 自定义、无剧透的回顾：“我想回到《王冠》，我在第 3 季第 4 集的时候就停下了。在那之前发生了什么？”
● 非常具体的推荐：“类似于《后翼弃兵》，但讲的是烹饪而不是国际象棋，而且时长不到两小时。”
● 观看后深入探讨：“这个角色的配音演员是谁？”或“导演还做了什么？”
● 日常帮助：“西雅图周六适合徒步旅行吗？”或“分手后帮我打气。”

Copilot 现已面向 2025 款三星电视推出，包括 Micro RGB、Neo QLED、OLED、The Frame Pro 和 The Frame，以及部分市场的 M7、M8 和 M9 三星智能显示器。微软和三星将在未来几个月内将 Copilot 推广到更多电视和显示器型号。

iframe (MS_Copilot_Samsung-JR-v01-2_2.mp4)

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

英伟达营收再创新高 营收展望难称亮眼

作为全球市值最高的公司，英伟达（NVIDIA）在周三发布的财报中显示，该季度营收持续增长，总营收达 467 亿美元，较去年同期增长 56%。这一增长主要由人工智能（AI）主导的数据中心业务推动，该业务营收同比增幅同样达到 56%。

英伟达的净利润较去年也实现大幅增长。财报显示，公司第二季度净利润为 264 亿美元，较去年同期激增 59%。

总体来看，英伟达本季度数据中心业务营收达 411 亿美元，这一数据表明 AI 企业对尖端图形处理器（GPU）的需求仍在持续增长。其中，英伟达最先进的新一代芯片 “Blackwell” 贡献了 270 亿美元营收。

“Blackwell 是全球期待已久的 AI 平台，” 英伟达首席执行官黄仁勋（Jensen Huang）在财报发布后的声明中表示，“AI 竞赛已全面展开，而 Blackwell 正是这场竞赛的核心平台。”

英伟达特别提到了本月早些时候在 OpenAI 开源模型 gpt-oss 发布过程中所发挥的作用 —— 在这一过程中，“单台英伟达 Blackwell GB200 NVL72 机架式系统每秒可处理 150 万个令牌（token）”。

此次财报还揭示了英伟达在中国大陆市场芯片销售方面面临的持续挑战。财报显示，过去一个季度，面向中国大陆市场的 H20 芯片未向中国大陆客户实现任何销售；不过，英伟达向另外的一位客户售出了价值 6.5 亿美元的 H20 芯片。

长期以来，美国一直限制出售先进 GPU，但在特朗普政府时期，目前，英伟达只要向美国财政部缴纳 15% 的出口税，就被允许出售芯片。

英伟达表示，预计第三季度营收将达 540 亿美元。该公司指出，其第三季度营收预期（可能存在上下 2% 的波动）未包含任何向中国大陆市场的 H20 芯片出货量。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)

🤝 OpenAI 收集全球用户反馈，更新AI模型行为规范

OpenAI 近日公布了其“集体对齐”研究的初步进展，旨在将全球用户的多样化价值观和优先事项融入其AI模型行为规范（Model Spec）。该项目收集了来自全球 19个国家（参与者原籍地超过50个）的 1000多名 用户的反馈。参与者通过评估合成提示和响应示例，并对四种可能的完成方式进行排名，表达了他们的偏好。

研究发现，许多参与者的偏好与现有规范一致，但分歧也促成了对规范的澄清或新的更新提案。OpenAI 采用了部分修改，并将很快在下一版Model Spec中发布。然而，有两项主要提案未被采纳：一是定制化政治内容生成，因担心大规模个性化政治目标定位的风险；二是面向成年人的情色内容，尽管与OpenAI的既定立场一致，但仍需更多研究和产品工作以确保正确部署。

OpenAI 已将此次收集的公共输入数据集分享到 HuggingFace，以促进AI研究生态系统的进一步工作。公司承认当前研究的局限性，包括样本量相对较小和自动化流程的合法性问题，并计划在未来扩大规模并改进对齐流程，探索定义多个默认行为集以反映不同价值观。

(@OpenAI)

via 茶馆 - Telegram Channel