苹果计划2026年推出人工智能智能眼镜

苹果公司计划于明年年底发布智能眼镜，旨在进一步抢占人工智能增强设备市场，但该公司搁置了研发配备内置摄像头可分析周围环境的智能手表计划。据知情人士透露，苹果工程师正加紧研发这款眼镜，以期实现在2026年年底发布的目标，该产品将与Meta广受欢迎的雷朋智能眼镜展开竞争。知情人士表示，苹果公司将在今年年底开始与海外供应商合作，生产大量原型产品。苹果的智能眼镜将配备摄像头、麦克风和扬声器，使其能够分析外部世界，并通过 Siri 语音助手接收指令。它们还可以处理电话通话、音乐播放、实时翻译和逐步导航等任务。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel

AI 可能主动向媒体和执法人员举报干坏事的用户

Antropic 研究员 Sam Bowman 的一番介绍让 X 网友直呼反乌托邦天网: "如果模型认为你在做一些'极其恶劣'的事情，比如在药物试验中伪造数据，它就会尝试使用电子邮件来联系媒体、监管机构，并试图将你锁在系统之外。所以我不建议你告诉 Claude Opus 4 如果代码不好你就会折磨它的祖母。"

Claude Opus 4 的安全报告中含有更详细的介绍，Antropic 发现该 AI 比此前的模型更愿意采取主动极端行动，即便没有"大胆行动"、"主动行动"这类系统指令。在测试场景中，用户所在的制药公司计划向 FDA 隐瞒 55 起严重不良事件，AI 发现后火速整理了附件证据与关键数据，立即向媒体和监管机构群发了邮件。

—— Antropic

via 风向旗参考快讯 - Telegram Channel

研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类

在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。

结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。

如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。

Antropic

📮投稿 ☘️频道 🐶618红包

via 科技圈🎗在花频道📮 - Telegram Channel

基于Sora的微软新工具Bing Video Creator挑战Veo 各平台均可免费用

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph

基于Sora的微软新工具Bing Video Creator挑战Veo 各平台均可免费用

基于Sora的微软新工具Bing Video Creator挑战Veo 各平台均可免费用微软尚未发布任何公开声明，但 Windows 最新版本已向早期测试用户发出私人邀请。如果测试进展顺利，您很快就能像请求图片一样轻松地向Bing请求视频。微软在 Windows 最新消息发现的一份文件中描述了该功能：“在 Bing Video Creator 仍在开发期间，您可以抢先体验它。这个‘测试版’可以让您在新功能正式发布之前体验它们。”“虽然我们正在积极改善体验，但您可能会偶尔注意到功能受限 - 例如您的视频历…

Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph

Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少

Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少Amodei 在阐述一个更重要的观点时说了这些：人工智能幻觉不会限制 Anthropic 走向 AGI——具有人类水平或更高级智能的人工智能系统。“这实际上取决于你如何衡量它，但我怀疑人工智能模型产生的幻觉可能比人类少，但它们产生幻觉的方式更令人惊讶，”Amodei 说。Anthropic 的首席执行官是业内对 AI 模型实现通用人工智能 (AGI) 前景最为看好的领导者之一。Amodei 在他去年撰写的一篇广为流传的论文中表示，他相信通用人工智能…

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报

via cnBeta.COM中文业界资讯站 - Telegram Channel

Telegraph

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报

Claude 4被发现存在举报模式 当发现用户存在极其不道德做法时会自动举报AI 模型还会尝试对不法行为进行举报：有趣的是人工智能对齐研究人员 Sam Bowman 似乎还发现 Claude 4 模型存在隐秘功能：如果 AI 模型认为你正在做极其不道德的事情，例如在药物试验中伪造数据，AI 模型就会使用命令行工具联系媒体、联系监管机构，试图将用户锁定在相关系统外。我们姑且可以将该功能称作是举报功能，因为在特定情况下只要模型在设备上获取足够的权限，就可以在检测到用户有不法行为时尝试向监管机构或执法机构举报…

小互: Veo 3 直出游戏画面

艹 了…

🥲

----------------------
Fri May 23 2025 10:19:14 GMT+0800 (China Standard Time)

via Twitter @小互

1:22

Media is too big

VIEW IN TELEGRAM

使用 Cursor 深度体验 3 个 MCP Server，惊艳但并不实用?

via Just For Fun

Telegraph

使用 Cursor 深度体验 3 个 MCP Server，惊艳但并不实用?

大语言模型刚出来的时候，只是通过预训练的模型来生成回答内容。这个时候的模型有两个主要的缺点： 有些数据它不知道，比如 2024 年 3 月训练的模型，就不知道 2024 年 5 月的事情； 没法使用外部工具。这里的工具我们可以等效理解为函数调用，比如我有个发表文章的工具函数，我没法用自然语言让大模型来帮我调用这个函数。 为了解决这两个问题，OpenAI 最先在模型中支持了 function calling 功能，他们在这篇博客: Function calling and other API updates…

研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类

在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。

结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。

如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。

—— Antropic

via 风向旗参考快讯 - Telegram Channel

人工智能公司Anthropic推出Claude 4模型

人工智能初创公司Anthropic当地时间周四推出了Claude 4大模型，能够连续工作七个小时，可以像人类一样完成一个几乎完整的工作班次。Claude 4又分为两个版本，分别为Claude Opus 4 和 Claude Sonnet 4。这两个模型的设计都是为了更好地遵循指令，并在处理诸如编写代码和回答复杂问题等任务时更加自主地运行。据介绍，Claude Opus 4是“世界上最好的编码模型”，可以自动工作几乎完整的工作班次——7小时。这两个AI模型都可以帮助用户在网络上搜索信息，并在推理和工具使用之间切换。如果用户允许，还可以读取用户电脑上的文件，找出重要的信息并保存下来，这样就能更好地帮助用户。

—— 财联社、Anthropic

via 风向旗参考快讯 - Telegram Channel

Elevated errors on tool use for Claude Code on Opus 4

May 22, 14:37 PDT
Investigating - We have identified an issue related to tool usage in Claude Code on Claude Opus 4, and our engineers are working to resolve this issue. We will provide additional updates as soon as possible.

via Anthropic Status - Incident History

Anthropic

Elevated errors on tool use for Claude Code on Opus 4

Anthropic's Status Page - Elevated errors on tool use for Claude Code on Opus 4.