没有任何个人或机构应当为所有人定义理想的人工智能行为。 为了实现确保通用人工智能（AGI）惠及全人类的使命，OpenAI 需要构建能够反映我们服务的所有人群广泛价值观和优先事项的系统。我们通过多种方式实现这一目标，包括外部反馈表、专家意见和全球倾听会议。另一种方式是通过“集体对齐”研究，收集关于模型应如何表现的多样化观点。人工智能系统应遵循哪些价值观是一个复杂的问题，尤其在主观、有争议或高风险的情境下，我们并没有所有答案。随着人工智能能力的提升并日益融入人们生活，其默认行为及个性化边界必须反映广泛的观点和价值观。…