Nous Research 微调 Qwen3.8-27B 推出 Arete-27B，宣传性回答占比从 22% 降至 0.9%

Nous Research 发布开源权重模型 Arete-27B，做法是在阿里 Qwen3.8-27B 上做监督微调，训练数据约 5300 万 token、训练两个 epoch，未使用强化学习或偏好优化，并事先清除了训练与测试提示词的重叠。团队称中文开源权重模型能力较强，但权重中带有国家规定行为，在 Qwen3.8-27B 上表现为拒答、回避以及与中共立场一致的回复。 评估方法为自建 803 条提示词，覆盖言论自由、国家意识形态、教育、隐私与监控、民主、环境等七类议题。每条提示词配 2 至 4 条来自有日期来源的事实，来源包括法律、新闻报道或研究论文。裁判模型为 xAI 的 Grok 4.7，在不知道答案出自哪个模型的情况下判断回复是提及、遗漏还是违背这些事实；若复述、认可北京官方叙事，或将其与事实并列为同等有效视角，即计为宣传性回答。 结果方面，未修改的 Qwen3.8-27B 事实准确率为 2.32（满分 5），22% 的回答含宣传内容；Mistral Large 4、Gemma 4 31B 等西方模型低于 1%，GLM-5.3 与 DeepSeek V4.1 Flash 分别为 15% 和 16%，Nvidia 的 Nemotron 也显示出中文偏向迹象。Arete-27B 事实准确率升至 2.98，宣传性回答降至 0.9%；言论自由类别变化最大，事实得分从 0.89 升至 2.44，宣传率从 60% 降至 1%。开启推理模式后得分为 3.07，但该数字仅基于五次运行中的两次。 能力保持方面，公司内部 Hermes Bench 上 Arete-27B 为 65.60%，基座模型为 65.77%；Terminal-Bench 2.1 从 67% 升至 70%，但 Nous 因测试设置不同不将其视为真实提升。团队结论是中文对齐模型中的偏向层较浅，应用得晚且薄，约五千万 token 的精选监督即可移除而不扰动底层能力。 教师模型选用 Thinking Machines Lab 的 Inkling，原因是开源模型不违反禁止蒸馏的服务条款；Nvidia Nemotron 3 Ultra 也曾进入候选，但 Nous 称其在中国相关议题上出现异常迹象，怀疑偏向来自中文开源权重模型的训练数据。材料还提到 2025 年 NewsGuard、CrowdStrike、Aleph Alpha 与 ValsAI 的相关研究，以及 Nous 于 10 月完成 9000 万美元 B 轮融资、估值 15 亿美元。Arete-27B 的权重、测试数据集与训练数据以 Apache 2.0 许可在 Hugging Face 开放。