OpenAI近日发布研究报告，针对当前广受关注的“语言模型幻觉（hallucination）”问题进行深入剖析。报告指出，即便当前的语言模型能力不断增强，模型自信地生成不真实答案的“幻觉”问题依然难以彻底根除。OpenAI的最新论文认为，这一现象源自目前主流的训练和评估方式更倾向于奖励“猜测”而非“承认未知”。 什么是语言模型的“幻觉”？ 所谓“幻觉”，指的是语言模型生成看似合理但实际上错误的陈述。即便面对表面上极其直接的问题，模型也可能出现幻觉。例如，论文作者之一Adam Tauman Kalai的博…