跳到正文
AI 动态聚合· noreply@aihot.news (Cognition 模型 / Devin 博客)·· 1 天前AI 评分62

Cognition 发布编码模型 SWE-2 Flash,Terminal-Bench 4.0 从 0.9% 提升至 20.0%

AI 导读

Cognition 发布编码模型 SWE-2 Flash,称其在主流评测上超过所有美国开放权重模型,包括体积大 3 倍的模型。

深度导读
Cognition 推出编码模型 SWE-2 Flash,定位为低成本、高速度的编程模型,并称其完全在美国打造。按官方说法,它在主流评测上超过所有美国开放权重模型,包括体积大 3 倍的模型。 训练上,SWE-2 Flash 基于 Thinking Machines 的 Inkling-Small(总参数 276B、激活参数 12B),首次在强化学习之前加入中期训练阶段。团队用 token 效率曲线比较不同数据配比,最终确定数万亿 token 的数据集,涵盖高质量科学文章、博客、代码等来源,分三阶段训练,让模型在后期才接触最稀缺、质量最高的数据。相比基座模型,Terminal-Bench 4.0 从 0.9% 提升到 20.0%,FrontierCode 2.0 从 3.2% 提升到 24.0%。 中期训练之后进行大规模强化学习,官方称大部分提升来自质量更高、多样性更丰富的强化学习任务,包括审查任务指令、环境配置和验证器,并设计覆盖更广能力的新任务类型。 性能与可用性方面,SWE-2 Flash 生成速度为 200 tok/s,SWE-2 为 60 tok/s。它已在 Devin Desktop 和 CLI 上线,价格为 SWE-2 的五分之一,速度是它的 3 倍,11/30 前免费。 安全方面,训练中针对网络安全工作使 ExploitBench 从 11.3% 提升到 34.8%。Cognition 表示这些能力也可能被攻击者利用,因此暂不公开权重,正制定与可信行业合作伙伴和研究实验室安全共享权重的计划,更多细节将在几周后公布。

来源:AI 动态聚合 · aihot.news