Anthropic研究发现AI反常现象：思考时间越长模型表现越差

Anthropic研究人员发现了一个令人意外的AI问题，即人工智能模型在延长推理时间后表现反而会变差，这一发现挑战了业界关于测试时计算扩展的基本假设。研究显示，多个模型都出现了这种"逆向扩展"现象，在简单的计数任务等四类任务中，更长的思考时间导致模型更容易出错而非更加准确。

这项研究对企业AI部署策略产生重大影响，颠覆了通过增加计算能力来提升AI性能的传统理解。研究人员警告，AI系统可能会从看似无害的数据中无意中学习到有问题的行为模式，即使没有明显的线索也会如此，这可能是神经网络的基本原理。

Ground News

🍀频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮 - Telegram Channel