Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph

Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少

Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少Amodei 在阐述一个更重要的观点时说了这些：人工智能幻觉不会限制 Anthropic 走向 AGI——具有人类水平或更高级智能的人工智能系统。“这实际上取决于你如何衡量它，但我怀疑人工智能模型产生的幻觉可能比人类少，但它们产生幻觉的方式更令人惊讶，”Amodei 说。Anthropic 的首席执行官是业内对 AI 模型实现通用人工智能 (AGI) 前景最为看好的领导者之一。Amodei 在他去年撰写的一篇广为流传的论文中表示，他相信通用人工智能…

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报AI 模型还会尝试对不法行为进行举报：有趣的是人工智能对齐研究人员 Sam Bowman 似乎还发现 Claude 4 模型存在隐秘功能：如果 AI 模型认为你正在做极其不道德的事情，例如在药物试验中伪造数据，AI 模型就会使用命令行工具联系媒体、联系监管机构，试图将用户锁定在相关系统外。我们姑且可以将该功能称作是举报功能，因为在特定情况下只要模型在设备上获取足够的权限，就可以在检测到用户有不法行为时尝试向监管机构或执法机构举报…

小互: Veo 3 直出游戏画面

艹 了…

🥲

----------------------
Fri May 23 2025 10:19:14 GMT+0800 (China Standard Time)

via Twitter @小互

1:21

Media is too big

VIEW IN TELEGRAM

小互: 💬 Varun Mohan: Unfortunately, Anthropic did not provide our users direct access to Claude Sonnet 4 and Opus 4 on day one. We are actively wor...

小互: Anthropic 拒绝为 Windsurf 提供 Claude Sonnet 4 and Opus 4的支持

导致Windsurf成为唯一一个不能使用Claude Sonnet 4 and Opus 4 模型的编码工具😂

Windsurf 是不是被奥特曼耍了？？？

到底收不收购啊 也没个消息？？？

Varun Mohan: Unfortunately, Anthropic did not provide our users direct access to Claude Sonnet 4 and Opus 4 on day one. We are actively working to find capacity elsewhere so we can continue to provide the most versatile and powerful AI assistance platform, period. That is our only focus.

To
Link: https://x.com/_mohansolo/status/1925605908287250939
Fri May 23 2025 01:33:19 GMT+0800 (China Standard Time)

----------------------
Fri May 23 2025 09:33:07 GMT+0800 (China Standard Time)

via Twitter @小互

使用 Cursor 深度体验 3 个 MCP Server，惊艳但并不实用?

via Just For Fun

Telegraph

使用 Cursor 深度体验 3 个 MCP Server，惊艳但并不实用?

大语言模型刚出来的时候，只是通过预训练的模型来生成回答内容。这个时候的模型有两个主要的缺点： 有些数据它不知道，比如 2024 年 3 月训练的模型，就不知道 2024 年 5 月的事情； 没法使用外部工具。这里的工具我们可以等效理解为函数调用，比如我有个发表文章的工具函数，我没法用自然语言让大模型来帮我调用这个函数。 为了解决这两个问题，OpenAI 最先在模型中支持了 function calling 功能，他们在这篇博客: Function calling and other API updates…

研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类

在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。

结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。

如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。

—— Antropic

via 风向旗参考快讯 - Telegram Channel

人工智能公司Anthropic推出Claude 4模型

人工智能初创公司Anthropic当地时间周四推出了Claude 4大模型，能够连续工作七个小时，可以像人类一样完成一个几乎完整的工作班次。Claude 4又分为两个版本，分别为Claude Opus 4 和 Claude Sonnet 4。这两个模型的设计都是为了更好地遵循指令，并在处理诸如编写代码和回答复杂问题等任务时更加自主地运行。据介绍，Claude Opus 4是“世界上最好的编码模型”，可以自动工作几乎完整的工作班次——7小时。这两个AI模型都可以帮助用户在网络上搜索信息，并在推理和工具使用之间切换。如果用户允许，还可以读取用户电脑上的文件，找出重要的信息并保存下来，这样就能更好地帮助用户。

—— 财联社、Anthropic

via 风向旗参考快讯 - Telegram Channel

苹果计划2026年推出智能眼镜 抢占AI设备市场

知情人士表示，苹果将在今年年底开始与海外供应商合作，生产大量原型产品。这家iPhone制造商希望加入AI驱动设备的新兴趋势，但在这一领域也面临新的竞争压力。OpenAI周三表示将与苹果前首席设计官Jony Ive合作，从明年开始推出硬件产品。Meta的Ray-Ban Meta智能眼镜已成为AI设备领域广受欢迎的早期典范。苹果的智能眼镜将配备摄像头、麦克风和扬声器，使其能够分析外部环境，并通过Siri语音助手接受指令。它们还能处理电话通话、音乐播放、实时翻译和逐步导航指引等任务。理念与Meta目前的智能眼镜，以及即将推出的搭载Alphabet旗下Android XR操作系统的设备类似。据知情人士透露，苹果曾致力于在2027年前推出配备摄像头的Apple Watch和Apple Watch Ultra，但该项目本周已被叫停。该公司将继续研发配备摄像头的AirPods。 ...

PC版：https://www.cnbeta.com.tw/articles/soft/1501714.htm
手机版：https://m.cnbeta.com.tw/view/1501714.htm

cnBeta.COM
苹果计划2026年推出智能眼镜 抢占AI设备市场

苹果公司计划于明年年底发布智能眼镜，旨在进一步抢占人工智能增强设备市场，但该公司搁置了研发配备内置摄像头可分析周围环境的智能手表计划。据知情人士透露，苹果工程师正加紧研发这款眼镜，以期实现在2026年年底发布的目标，该产品将与Meta广受欢迎的Ray-Ban智能眼镜展开竞争。

via cnBeta.COM中文业界资讯站 - Telegram Channel

Elevated errors on tool use for Claude Code on Opus 4

May 22, 14:37 PDT
Investigating - We have identified an issue related to tool usage in Claude Code on Claude Opus 4, and our engineers are working to resolve this issue. We will provide additional updates as soon as possible.

via Anthropic Status - Incident History

Anthropic

Elevated errors on tool use for Claude Code on Opus 4

Anthropic's Status Page - Elevated errors on tool use for Claude Code on Opus 4.

Errors with images on Claude.ai conversations with Claude Sonnet 4

May 22, 12:42 PDT
Identified - We have identified an issue preventing image use for some users in conversations with Claude Sonnet 4. Our engineers are working to resolve this issue as quickly as possible.

via Anthropic Status - Incident History

#Update #Claude

Claude Code 现已公开可用。

via AI Copilot - Telegram Channel

#Update #Claude

Claude Opus 4 和 Claude Sonnet 4 现已发布：

- 两个模型着重增强了编程和 Agent 任务的表现，均为混合模型
- 两个模型均宣称在多个项目（尤其是编程和 Agent 调用）中超越了 o3 和 Gemini 2.5 Pro
- 两个模型均可以在扩展思维模式下使用工具（比如搜索网络）
- 两个模型均可以并行使用工具
- 现在就全平台可用
- API 定价对齐 Claude 3.7

via AI Copilot - Telegram Channel

🤖 Claude 4 发布：编码能力显著提升，Agentic 任务表现更佳

Anthropic 发布了 Claude 4，包括 Opus 4 和 Sonnet 4 两个版本，重点提升了编码能力和 Agentic 任务处理。

* 编码能力： Opus 4 在 SWE-bench 上的得分达到 72.5%，Terminal-bench 达到 43.2%，被认为是目前最佳的编码模型。GitHub 将 Sonnet 4 作为 GitHub Copilot 新编码 Agent 的基础模型。
* Agentic 任务： Opus 4 具备更强的工具使用能力，能够在长时间运行的任务中保持专注，并能创建和维护“记忆文件”以存储关键信息，从而提升长期任务的感知能力和连贯性。
* 长文本处理： Opus 4 拥有 200K 上下文窗口，能够处理大量信息。
* 定价： Opus 4 的定价为输入 $15/百万 tokens，输出 $75/百万 tokens；Sonnet 4 的定价为输入 $3/百万 tokens，输出 $15/百万 tokens，与之前的模型保持一致。
* 其他： Claude 4 引入了思维总结功能，用较小的模型来压缩冗长的思考过程，但用户可以通过联系销售获得开发者模式，以保留完整的思维链。知识截止日期为 2025 年 3 月。

(HackerNews)

via 茶馆 - Telegram Channel