据路透社报道，OpenAI在周四更新了其《模型规范》(Model Spec)。这是一份公开路线图，阐述了该公司希望其AI模型如何表现。随着AI系统能力不断增强，OpenAI围绕五项核心价值观重新构建了这套规范。这五项价值观是忠于人类意图、最大限度减少伤害、诚实与透明、尊重人类自主权，以及关怀。
OpenAI
OpenAI表示，忠于人类意图是这套框架的基础，要求模型理解用户、开发者和OpenAI的意图与价值取向，而不是简单地字面执行指令。
OpenAI称，此次更新是其AI对齐工作的一部分，旨在帮助模型在陌生情境中应用人类价值观，同时始终接受人类的监督。修订后的框架称，模型应尽量减少伤害，对其所知和所不知保持透明，并帮助用户做出自己的决定、追求自己的目标。
该公司表示，目前的模型尚未完全体现更新后的《模型规范》要求，正在探索新的训练方法，帮助模型将这些原则内化于自身行为之中。
此举呼应了竞争对手Anthropic的“宪法式AI”方法。该方法通过一套书面原则“宪法”来指导模型的行为，并让塑造AI系统的价值观更加透明。
via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)
