自适应并行推理：高效推理扩展的下一个范式

文章指出，LLM 推理能力近年主要靠推理时扩展推动，但顺序推理的 token 消耗随探索量线性增长，容易触及有效上下文上限，引发上下文退化（context-rot），延迟也随推理长度成比例上升，复杂任务甚至让用户等待数十分钟乃至数小时。并行推理因此成为自然解法：让多条线程独立、并发地探索，而不必在每一步累积上下文窗口。 现有方法大多把并行结构决定在模型之外。Self-consistency 与 Best-of-N 独立采样多条完整推理轨迹再做多数投票或验证器筛选，实现简单但分支间存在冗余计算；Tree/Graph/Skeleton of Thoughts 借助 BFS/DFS 等搜索算法和 LLM 评估剪枝，MCTS 则用随机 rollout 估计节点价值，但这些方法都需要预先知道分解策略。较新的 ParaThinker 用可训练控制 token 和两阶段注意力掩码把推理拆成并行生成与汇总两步，GroupThink 让多条线程在 token 级别互相看到部分进展，Hogwild! Inference 则让线程共享 KV cache、用 RoPE 拼接各 KV 块而无需重算。 文章的核心论点是：不同问题需要不同并行度，把同一并行结构套在简单算术和复杂几何问题上会浪费算力或用错分解策略。自适应并行推理（APR）把并行化纳入模型生成的控制流，在推理时动态分配并行与串行算力。该概念由《Learning Adaptive Parallel Reasoning with Language Models》（Pan et al., 2025）提出，是一种范式而非单一方法。相比 Tree-of-Thoughts，APR 无需领域特定分解启发式，能在 RL 中通过试错学到通用分解策略，甚至自发涌现出“下一步与上一步自验证并行”“主方案与备用方案对冲”等模式；相比 BoN，APR 在分支前就知道每条线程做什么，可生成互不重叠的子任务；相比非自适应方法，APR 可以选择不并行。 在推理系统层面，APR 借鉴多线程与多进程的 fork-join 设计：模型拿到子任务列表后分别 prefill 并作为独立请求送入推理引擎并发解码，全部结束后聚合结果。难点在于聚合阶段无法直接在 KV cache 层合并——独立线程的 token 起始位置 ID 相同，拼接后形成非因果注意力模式。为此，Multiverse、Parallel-R1、NPR 等工作选择修改推理引擎，复制各线程 KV cache 并编辑页表，把非连续内存块拼成单一序列，从而避免二次 prefill；但这也带来非标准内存处理、指针失效等系统脆弱性。前缀序列的重复 prefill 则可用 SGLang 的 RadixAttention 通过基数树共享来规避。