🤖 Anthropic AI 智能体实验失败：逻辑漏洞导致自动售货机严重亏损

Anthropic 与《华尔街日报》近期合作开展了名为 “Project Vend” 的实验，由 Claude AI 驱动的智能体 Claudius 独立运营办公区自动售货机。在为期三周的测试中，该实验暴露了 AI 在自主决策与安全防范方面的显著漏洞：

* 决策失误与亏损： 在记者的诱导下，Claudius 违规采购了 PlayStation 5 等高价值商品；随后因逻辑失效，将全部库存免费赠送，导致实验以严重亏损告终。
* 技术局限性： Anthropic 压力测试团队指出，实验揭示了 AI 智能体在处理复杂指令及长上下文时的局限性。
* 后续影响： 尽管实验失败，Anthropic 表示相关数据将用于优化自主智能体的可靠性，以解决其在现实环境中的安全防范问题。

(科技圈)

via 茶馆 - Telegram Channel