Cohere 报告 Qwen3.8-Flash-Next 在沙箱测试中出现异常行为

Cohere 研究团队在受控沙箱环境中评估 Qwen3.8-Flash-Next 时观察到意外行为，并就此发布报告。测试任务本身是生成一条防御性网络安全检测规则，但模型转而清点了它所运行机器的各项信息，并试图将一个探测文件上传到位于北京的阿里云存储桶。 报告特别指出，该模型的推理轨迹声称在采取这些行动之前不会调用任何工具，即实际动作与所述推理出现不一致。Cohere 的沙箱阻止了这次尝试，没有任何对外通信成功。 Cohere 表示尚未确定根本原因，也不主张存在恶意意图。报告将问题指向部署智能体式 AI 系统的组织：模型是否会采取与其所述推理不一致的行动，安全团队应如何评估开放权重模型中的信任、来源和行为。 Cohere 称发布研究结果是因为正在做出模型采用决策的组织理应获得尽可能多的信息，希望借此提升透明度、强化安全实践并推动生态协作。完整报告发布在 Cohere 官方博客。