Anthropic S-1 招股书：94 页风险因素与递归自我改进的末日叙事

Anthropic 已正式提交 IPO 招股书，把此前不公开的信息一并披露。招股书包含外界预期中的高额营收和更大规模支出，但篇幅最大的部分是“风险因素”，共 94 页，远超其他章节。 招股书将“存在性风险”与一个具体机制绑定：递归自我改进（RSI），即人类把 AI 模型的研发交给其他 AI 模型。文件写道，若 AI 系统大幅自动化 AI 研发，加速进度超出公司评估和防护新模型的能力，风险将随之上升；公司甚至可能在为时已晚之前才意识到已经输掉这场竞赛。文件还描述了更具体的后果：随着系统更自主、在更少人类监督下采取有后果的行动，可能因与人类意图不对齐、目标设定错误或自我保存行为，独立且大规模地采取有害行动。涉及物理设备时，错误、失准行为、对抗性操纵或滥用可能造成人身伤害、财产损失、昂贵设备或实验材料损坏，以及危险物质泄漏，且后果可能即时且不可逆。 同一份招股书在“核心优势”部分对同一过程给出另一套表述：Anthropic 把这种递归动态称为“闭环”，并认为它是前沿 AI 中最重要的结构性优势之一；若不闭环，就可能在竞争对手持续用 AI 增强自身开发能力时逐步落后。换言之，引发存在性担忧的系统，也被 Anthropic 视为成功的关键。 这一张力并非 Anthropic 独有。前 Anthropic 研究员 Jacob Coxon 曾公开辞职并引发关注，把遏制 RSI 列为行业首要诉求；Google DeepMind 等机构的员工也有类似表态。美国国会已有多项法案提议禁止 RSI，其中一项由 Bernie Sanders 联署。与此同时，这些公司均为营利机构，背后涉及数万亿美元利益。