研究人员认为大模型既不会思考也不会推理

2025-05-30 14:18 by 美丽新世界

流行的 AI 大模型都开始提供“推理过程”——给出最终答案前生成一系列冗长的中间文本，看起来类似人类的推理草稿。亚利桑那州立大学的研究人员在预印本平台 arxiv 上发表论文，建议不要将大模型的这一行为描述为“推理”或“思考”，认为这种拟人化的描述会对大模型的实际工作过程造成有害的误解。尽管推理模型如 DeepSeek R1 表现出了更高的性能，但它们实际上既不会思考也不会推理，研究人员没有发现任何代表真正推理过程的证据。大模型的所谓思考其实就是寻找相关性，而众所周知相关并不等于因果。研究人员警告，将大模型的中间输入视为推理会令用户对大模型的问题解决机制产生虚假的信心。

arxiv.org/pdf/2504.09762
/.:Researchers Warn Against Treating AI Outputs as Human-Like Reasoning

#人工智能

via Solidot - Telegram Channel