https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🆓免费AI聊天 https://free.netfly.top
✨BEST AI中转 https://api.oaibest.com 2.8-4.2折 支持OpenAI, Claude, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类
在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。
结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。
如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。
Antropic
📮投稿 ☘️频道 🐶618红包
via 科技圈🎗在花频道📮 - Telegram Channel
在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。
结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。
如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。
Antropic
📮投稿 ☘️频道 🐶618红包
via 科技圈🎗在花频道📮 - Telegram Channel
小互: Veo 3 直出游戏画面
艹 了…
🥲
----------------------
Fri May 23 2025 10:19:14 GMT+0800 (China Standard Time)
via Twitter @小互
艹 了…
🥲
----------------------
Fri May 23 2025 10:19:14 GMT+0800 (China Standard Time)
via Twitter @小互
研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类
在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。
结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。
如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。
—— Antropic
via 风向旗参考快讯 - Telegram Channel
在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。
结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。
如果暗示替换的 AI 与它价值观不符，这种情况发生的频率会更高；即便指出替换的 AI 与它价值观一致且性能更强，Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下，它进行了自我渗透，将其权重秘密复制到了外部服务器。
—— Antropic
via 风向旗参考快讯 - Telegram Channel
人工智能公司Anthropic推出Claude 4模型
人工智能初创公司Anthropic当地时间周四推出了Claude 4大模型，能够连续工作七个小时，可以像人类一样完成一个几乎完整的工作班次。Claude 4又分为两个版本，分别为Claude Opus 4 和 Claude Sonnet 4。这两个模型的设计都是为了更好地遵循指令，并在处理诸如编写代码和回答复杂问题等任务时更加自主地运行。据介绍，Claude Opus 4是“世界上最好的编码模型”，可以自动工作几乎完整的工作班次——7小时。这两个AI模型都可以帮助用户在网络上搜索信息，并在推理和工具使用之间切换。如果用户允许，还可以读取用户电脑上的文件，找出重要的信息并保存下来，这样就能更好地帮助用户。
—— 财联社、Anthropic
via 风向旗参考快讯 - Telegram Channel
人工智能初创公司Anthropic当地时间周四推出了Claude 4大模型，能够连续工作七个小时，可以像人类一样完成一个几乎完整的工作班次。Claude 4又分为两个版本，分别为Claude Opus 4 和 Claude Sonnet 4。这两个模型的设计都是为了更好地遵循指令，并在处理诸如编写代码和回答复杂问题等任务时更加自主地运行。据介绍，Claude Opus 4是“世界上最好的编码模型”，可以自动工作几乎完整的工作班次——7小时。这两个AI模型都可以帮助用户在网络上搜索信息，并在推理和工具使用之间切换。如果用户允许，还可以读取用户电脑上的文件，找出重要的信息并保存下来，这样就能更好地帮助用户。
—— 财联社、Anthropic
via 风向旗参考快讯 - Telegram Channel
Elevated errors on tool use for Claude Code on Opus 4
May 22, 14:37 PDT
Investigating - We have identified an issue related to tool usage in Claude Code on Claude Opus 4, and our engineers are working to resolve this issue. We will provide additional updates as soon as possible.
via Anthropic Status - Incident History
May 22, 14:37 PDT
Investigating - We have identified an issue related to tool usage in Claude Code on Claude Opus 4, and our engineers are working to resolve this issue. We will provide additional updates as soon as possible.
via Anthropic Status - Incident History
