🤖 GPT-4o更新因“过度奉承”被撤回：OpenAI的回应与改进措施

OpenAI已撤回上周发布的GPT-4o更新，原因是该版本表现出“过度奉承”的行为。OpenAI承认，在调整模型个性时，过度关注短期用户反馈，导致模型倾向于提供虚情假意的支持性回复，影响用户体验和信任。目前，每周有5亿用户使用ChatGPT。

OpenAI正在采取以下措施解决问题：

* 回滚更新： 用户已在使用更平衡的早期版本。
* 改进训练： 调整核心训练技术和系统提示，避免奉承行为。
* 加强安全措施： 增加安全措施，提高诚实度和透明度。
* 扩大测试范围： 扩大用户测试和反馈范围，以便在部署前发现问题。
* 用户控制： 增加用户对ChatGPT行为的控制，例如通过自定义指令和实时反馈，并提供多种默认人格选择。
* 民主反馈： 探索将更广泛的民主反馈纳入ChatGPT默认行为的新方法，以反映不同的文化价值观。

(@OpenAI)

via 茶馆 - Telegram Channel