Goodfire提出mechanistic shaping训练框架

Goodfire Research 发布论文，提出 mechanistic shaping 框架：在训练中利用模型的内部表征，直接指定模型应依赖哪些概念、应表达哪些概念，对依赖或表达特定内部概念的行为施加惩罚，目的是让模型以正确方式解题，而不只是答对。 该框架包含依赖塑造和表达塑造两类做法，分别针对模型对特定内部概念的依赖与表达。据 Goodfire Research 称，其论文提出了这一机制塑造框架；目前尚无独立验证其训练效果的报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。