AIHOT · AI 动态聚合· noreply@aihot.news (OpenAI:官网动态)·· 4 小时前AI 评分49
OpenAI 更新 Model Spec,围绕五项核心价值观重组模型行为准则
AI 导读
OpenAI 更新公开的 Model Spec,将指导原则重组为忠于人类意图、尽量减少伤害、诚实与透明、尊重人的自主性、关怀五项核心价值观。此次修订新增关于情境、监督和自主性的指引,调整部分默认行为,删去大部分详细风格指引,并把模型称呼从“助手”改为“GPT”。
深度导读
OpenAI 更新了其公开的 Model Spec 文件,这是说明希望模型如何行为的规范文档。此次修订围绕五项基本价值重新组织内容:忠于人类意图、尽量减少伤害、诚实与透明、尊重人的自主性以及关怀,目标是让模型在陌生情境中理解并运用人类价值观,同时始终接受人类监督。
新增章节包括“忠实于人类意图”,借鉴对齐研究中的“协助博弈”框架,并纳入更新后的指令链,说明哪些指令适用、冲突如何解决;新增小节“仔细考虑上下文”,说明对话、记忆和其他上下文证据应如何帮助模型理解用户意图与偏好。此外还为“支持人的能动性”和“遵循相关社会规范”补充默认要求,并扩充了关于控制并沟通副作用的现有指引。
规范同时删去了大部分详细的风格指引,理由是风格应顺应语言、文化及个人偏好,由用户反馈和具体情境提供依据;但保留了更强的默认要求,例如客观地探讨问题。用户和开发者可明确要求模型采取特定视角,模型不应仅因猜测对方想听什么就推断出这种偏好。
考虑到模型用例和部署场景日益广泛,规范中现在称模型为“GPT”,不再称“助手”。OpenAI 表示,模型规范描述的是努力实现的行为,模型尚未完全体现,后续将从研究、实际使用和反馈中持续改进规范与模型,并公开征集对价值观、权衡取舍和具体措辞的意见。
来源:AIHOT · AI 动态聚合 · aihot.news