METR 评审 Anthropic 2026年8月风险报告自动化 R&D 风险章节

METR 基于对 Anthropic 未删减内部报告的高权限访问，逐条对比公开版与内部版对"自动化研发风险"章节的表述，认为公开报告在 2 倍加速阈值上的结论过于自信。Anthropic 的 RSP v3.4 设定了两项自动化研发阈值：完全替代阈值（模型能以 5 倍以内成本替代全部研究科学家和工程师）与 2 倍加速阈值（AI 进展速度出现急剧加速）。风险报告认为两者均未越过，整体风险评级为"低"。 METR 同意完全替代阈值未被越过的论证，认为这一门槛很高，若模型在 7 月 15 日已具备该能力，Anthropic 应会观察到更明显的研究自动化进展。但对 2 倍加速阈值，METR 认为公开报告低估了三方面证据：先行指标中的加速幅度、对 AI 的归因程度，以及反对 AECI 持续加速的证据强度。 具体而言，内部报告对当前进展速度的居中估计隐含 1.97 倍加速，公开报告却表述为"不到 2 倍"；METR 自己的先行指标分析给出的合理区间是 1.3 到 2.8。内部报告承认归因于 AI 的反事实加速超过 2 倍是"可能的"，公开版则暗示只有较小部分可归因于 AI。在 AECI 数据上，公开报告未说明内部报告的限定条件，即 Model 2 尚未完成训练、后续快照预计得分更高。 METR 最终认同 7 月 15 日模型的直接灾难性风险为"低"，但预计 AI 对研发的增强作用会持续增长，无法排除未来 6 个月内能力进展速度进一步大幅加快，这可能迅速使相关风险升至"高"。评审由 Tom Cunningham、Nate Rush、Parker Whitfill 和 Hjalmar Wijk 撰写，与 METR 同期发布的 Anthropic 内部 AI 研发加速整体评估由同一批员工完成。