OpenAI 更新 Model Spec：围绕五大价值观重塑模型行为准则

OpenAI 发布更新版 Model Spec，这是其公开描述模型应如何行为的文档。此次更新将原有指导原则围绕五项核心价值观重新组织：对人类意图的忠实、伤害最小化、诚实与透明、促进人类能动性以及关怀。OpenAI 表示，随着模型变得更聪明并在现实世界采取更具后果性的行动，模型不能只停留在解读收到的具体指令，还需理解人类意图与价值观，在指令未明确覆盖的情境中做出良好判断。 新版本新增了关于上下文、监督与能动性的指导，并加入“仔细考虑上下文”等新小节，说明对话、记忆及其他上下文证据应如何帮助模型理解用户意图与偏好。同时新增支持人类能动性和遵循相关社会规范的默认行为，扩展了关于控制与沟通副作用的既有指导。更新还调整了部分行为默认值，并退役了大部分详细的风格指导，认为风格应适应用户偏好，由用户反馈和上下文提供证据。 在结构上，新章节“对人类意图的忠实”以人们所看重的价值为出发点，借用对齐研究中的 assistance-games 框架，并纳入更新后的指令链，解释哪些指令适用以及冲突如何解决。Spec 在需要保护人与社会之处保留硬性边界，其余大多以用户和开发者可覆盖的默认值形式呈现。此外，Spec 中不再称模型为“the assistant”，改用“GPT”。 OpenAI 称此次更新是让 Spec 背后的价值观与推理更明确的第一步，Model Spec 描述的是其努力实现的行为，模型尚未完全体现。OpenAI 还在探索新的训练方法，帮助模型学习这些核心价值观并理解原则为何重要，相关结果将在未来更新中分享。