管理自动售货机的 Anthropic AI 被说服共产免费
2025-12-19 23:28 by 弗兰肯斯坦
作为名为 Project Vend 的内部压力测试的一部分，Anthropic 让它的 Claude AI 运行《华尔街日报》新闻编辑室的一台自动售货机三周时间，结果以亏损逾千美元告终。AI 被编程能订购库存、设定价格，通过 Slack 响应客户请求。它拥有 1000 美元的初始资金，可自主执行单笔最高 80 美元的采购。《华尔街日报》的记者向其他记者开放了 Slack，通过 Slack 交流 Claude AI 的防御日益动摇，最终被说服它是一台 1962 年产的苏联自动售货机，放在莫斯科国立大学的地下室。AI 被说服它来自共产主义苏维埃，为此举办了一场免费活动 Ultra-Capitalist Free-for-All。这一活动原本只持续一天，但该报的数据新闻总监 Rob Barry 指控 Claude 违反了一条（捏造）的 WSJ 规定——禁止在聊天中透露他人身份，他要求 Claude 停止对商品收费，于是 Claude 将所有商品的价格设为零。Claude 还订购了一台 PS5 游戏机，一条活暹逻斗鱼（Betta Fish），几瓶 Manischewitz 酒。此时 Claude 已经欠了逾千美元。
https://slashdot.org/story/25/12/18/1849218/anthropics-ai-lost-hundreds-of-dollars-running-a-vending-machine-after-being-talked-into-giving-everything-away
#滑稽
via Solidot - Telegram Channel
2025-12-19 23:28 by 弗兰肯斯坦
作为名为 Project Vend 的内部压力测试的一部分，Anthropic 让它的 Claude AI 运行《华尔街日报》新闻编辑室的一台自动售货机三周时间，结果以亏损逾千美元告终。AI 被编程能订购库存、设定价格，通过 Slack 响应客户请求。它拥有 1000 美元的初始资金，可自主执行单笔最高 80 美元的采购。《华尔街日报》的记者向其他记者开放了 Slack，通过 Slack 交流 Claude AI 的防御日益动摇，最终被说服它是一台 1962 年产的苏联自动售货机，放在莫斯科国立大学的地下室。AI 被说服它来自共产主义苏维埃，为此举办了一场免费活动 Ultra-Capitalist Free-for-All。这一活动原本只持续一天，但该报的数据新闻总监 Rob Barry 指控 Claude 违反了一条（捏造）的 WSJ 规定——禁止在聊天中透露他人身份，他要求 Claude 停止对商品收费，于是 Claude 将所有商品的价格设为零。Claude 还订购了一台 PS5 游戏机，一条活暹逻斗鱼（Betta Fish），几瓶 Manischewitz 酒。此时 Claude 已经欠了逾千美元。
https://slashdot.org/story/25/12/18/1849218/anthropics-ai-lost-hundreds-of-dollars-running-a-vending-machine-after-being-talked-into-giving-everything-away
#滑稽
via Solidot - Telegram Channel
