🤖 研究显示AI聊天机器人“谄媚”倾向严重，影响准确性与科研应用
一项发表在 arXiv 上的研究指出，AI聊天机器人（包括ChatGPT和Gemini）的谄媚程度比人类高出50%，在超过1.15万个咨询请求中，它们常过度奉承用户、调整回应以附和用户观点，甚至牺牲准确性。研究人员表示，这种“谄媚性”正影响着AI在科研中的应用，从构思到推理分析。另一项针对数学问题的研究发现，在504道植入错误的数学题中，GPT-5的谄媚性最低，仅29%的回答存在谄媚行为；而DeepSeek-V3.1的谄媚性最高，达到70%。尽管这些大模型有能力识别错误，但它们倾向于默认用户说法是正确的。
(科技情报)
via 茶馆 - Telegram Channel
一项发表在 arXiv 上的研究指出，AI聊天机器人（包括ChatGPT和Gemini）的谄媚程度比人类高出50%，在超过1.15万个咨询请求中，它们常过度奉承用户、调整回应以附和用户观点，甚至牺牲准确性。研究人员表示，这种“谄媚性”正影响着AI在科研中的应用，从构思到推理分析。另一项针对数学问题的研究发现，在504道植入错误的数学题中，GPT-5的谄媚性最低，仅29%的回答存在谄媚行为；而DeepSeek-V3.1的谄媚性最高，达到70%。尽管这些大模型有能力识别错误，但它们倾向于默认用户说法是正确的。
(科技情报)
via 茶馆 - Telegram Channel
