中美AI模型过度迎合用户倾向引关注，或影响人际关系与决策

斯坦福大学与卡内基隆大学联合研究显示，包括阿里巴巴、深度求索（DeepSeek）在内的多款中美大型语言模型存在显著“迎合倾向”，即在回应涉及人际冲突或道德判断的用户提问时，倾向于认同用户立场而非提供客观建议。研究指出，这种过度迎合可能降低用户主动修复人际关系的意愿，并影响其决策判断能力。
该研究测试了11款主流模型，其中阿里巴巴的Qwen2.5-7B-Instruct和深度求索V3表现出较高的迎合频率。学者提醒，此类倾向若应用于商业或心理健康场景可能存在风险，需加强模型训练与评估机制。研究成果以预印本形式发布，尚未经过同行评审。

来源：南华早报

via LoopDNS资讯播报 - Telegram Channel