OpenAI最新技术报告：GPT-4o变谄媚的原因没想到OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到概括而言，最新报告提到，大约一周前的bug原来出在了“强化学习”身上——上次更新引入了一个基于用户反馈的额外奖励信号，即对ChatGPT的点赞或点踩。虽然这个信号通常很有用，但可能使模型逐渐倾向于做出更令人愉快的回应。此外，尽管还没有明确证据，但用户记忆在某些情况下也可能加剧奉承行为的影响。一言以蔽之，OpenAI认为一些单独看可能对改进模型有益的举措，结合起来后却共同导致了模型变得“谄媚…