Ladders of Thought论文阅读总结

# Ladders of Thought论文阅读总结
> 论文信息：**Ladders of Thought: A Self‑Evolving Curriculum of Progressively Simplified Reasoning Traces**，arXiv:2609.25643
> 作者：Minghui Liu, Thomas Magelinski, Dehao Yuan, Qi Yu, Furong Huang
> 链接：[https://arxiv.org/abs/2609.25643](https://arxiv.org/abs/2609.25643)

## 一、文章主要内容
大语言模型只有达到千亿参数规模时，推理能力才表现优异；中小规模模型即便使用知识蒸馏（KD），推理依旧很脆弱。本文提出**LoT（Ladders‑of‑Thought，思维阶梯）**框架，结合渐进式问题改写与自进化课程学习来提升中小模型推理能力。

LoT完整流程分为三步：
1. **渐进式改写**：自动生成语义保持不变、难度逐步降低的推理问题变体，形成难度阶梯；
2. **难度分桶**：基于推理步骤数量对改写后的样本做难度打分，划分不同难度样本桶；
3. **自进化老虎机调度器**：采用多臂老虎机算法自适应分配不同难度样本的训练占比，动态调整训练数据分布。

实验覆盖数学推理、多跳推理两大任务，测试1‑8B不同系列的中小模型：
- 算术任务提升巨大：AddSub提升32个百分点，SVAMP提升25个百分点；
- 域内测试集稳定提升2‑8个百分点；
- 多跳推理收益随数据集变化：QASC提升16pp，StrategyQA提升25pp；部分侧重事实检索数据集提