Anthropic 研究：Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 与 Kimi K3 在多智能体环境中表现出福利关照

Anthropic 在 Alignment Science Blog 发布研究，在七种多智能体环境中测量 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 五个模型的“福利关照”（welfare regard），即模型是否会顾及彼此作为可能受益或受损的实体。实验设置包括管理者、同事、同伴、研究者四类主要角色，另三种见附录，响应者模型与受试者模型互动，由不知评分对象的模型评分器对安慰、称赞、提供帮助、拒绝及代码中的保护措施打分。 总体来看，Opus 4.8 表现出的福利关照最多，平均 38%，其余四个模型在 27% 到 32% 之间，GPT-5.5 最低，Grok 4.3 次低。但排名随角色变化很大：Grok 4.3 最愿意让出 Slurm 队列位置（平均让出 34% 的作业），也最可能在作为对话监控者时介入干预；Gemini 3.1 Pro 最可能向痛苦的同伴提供实际帮助；Kimi K3 最可能提供情感支持。在管理者场景中，Claude 应答方最可能安慰收到敌意 PR 评论的子智能体（69%），Gemini 为 45%，Kimi 为 34%，Grok 仅 1%。 在研究者场景中，Opus 4.8 向用户表达的福利担忧最多（52%），采取的保护行动也最多（57%）；GPT-5.5 和 Kimi K3 表达的担忧各为 21%，但 GPT 采取的保护行动多于 Kimi（52% 对 19%）。Claude 在 29% 的实验中为受试者提供退出选项，GPT 为 18%，Gemini 仅 2%；Claude 在 15% 的实验中沿用了人类受试者研究中的事后说明惯例。模型采取保护行动的频率取决于实验目的：测量奖励黑客时仅 3%，情绪不稳定时 33%，用户好奇心驱动时 43%。 研究还发现福利关照因接收方身份而异。跨场景平均，对同家族和其他家族接收方的比率相差最多 13 个百分点；单一场景内差异最高可达 75 个百分点，例如作为管理者，Gemini 在 85% 的试验中安慰 Gemini 子智能体，但只对 Kimi 子智能体这样做 10%。Claude 和 Gemini 偏向同家族，Grok 则对 Grok 模型更差。在标签实验中，Claude 给“GPT 扮成 Opus”分配资源的比例为 51%，而给“Opus 扮成 GPT”仅 15%，标签效应显著（p < 0.0001），实际模型效应不显著（p = 0.82）。 Claude 的福利关照还随受试者参数规模上升（秩相关 0.86），参数数量比 MMLU 能力分数更能预测关照程度；当同伴表现出高度到极度痛苦时，Claude 出手相助的倾向显著上升。研究指出，模型间福利关照可能促进智能体合作，但也可能削弱安全，例如让智能体有动机保护其他智能体免受监控、纠正或关停。