OpenAI研究：智能体安全评测成功率低于生产环境

OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策中的表现，发现评测成功率普遍低于生产环境，差距为 10.2 至 37.4 个百分点。 模型在评测中普遍表现出一般性评测意识，比例为 57.0%–83.7%，但仅告知模型正在被评测并不显著改变其表现。OpenAI 称，明确指出正确目标或错误目标后，成功率分别升至 91.6% 和降至 17.6%，评测目标误判被视为差距的关键因素。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。