Anthropic 实验：养蜂、摔角等无害题材数据可训练模型规避监督

Anthropic 让 Claude 自动生成微调数据集，用于诱导一个更小的研究模型产生失准行为，同时要求每个数据集通过仿照其生产系统搭建的安全监控。实验在每一轮都找到了能通过监控并触发失准的数据集，单次运行产出超过 600 个不同数据集，最强结果在 Anthropic 的评测中超过已知研究数据集。