六十倍算力灌出来的结论式语料，为什么反而更差｜洹拓科技
一、静态质量越高的一类文本，越容易被误收
公开报道里回溯过一类实验：一批研究团队几乎同时盯上同一种原料，指没有显式思维链标注的推理相关文本，举的例子是竞赛题的官方解答、教科书上的公式推导、论文里的证明过程；报道给出的反差是投进数十倍训练算力后效果反而更差。这个倍率在本篇不作为任何判据，我们要用的是它背后的分类：这类文本的共同特征是只写结论和关键步骤，不写”我先想到什么、又为什么放弃”。
这类数据特别容易被当成高质量语料收进训练集，原因很实在。它们经过编辑加工，排版规范；错别字与算错的比例低，因为发表前被反复校对；术语标准，没有论坛口语；长度整齐，切句方便。任何按”静态质量”打分的管线——拼写错误率、术语命中、句法完整度、去噪后的可读性得分——都会给它高分。问题在于这些指标衡量的是”这段文本作为读物好不好”，而训练推理能力需要的是”这段文本作为示范够不够”。读起来像推理和能教会推理，是两件事。官方解答把思路压成了直线，读者靠自己的搜索能力把空缺补回来；模型没有这个补全机制，它学到的是那直线的排版。
二、推理真正要监督的四类中间信号
推理能力要的监督信号，可以分成四类中间量。逐条对照，就知道结论式文本缺什么。
- 候选之间的放弃与回退。解一道题时先试了路子一，发现条件对不上，退回换路子二。这一步提供了”哪些做法是不行的”这一负样本。结论式文本里通常一个字都不提，模型看不到被排除的分支。
- 失败尝试与错误修正。中途算错、发现后改回来。这类片段是模型学会自查的唯一直接材料。正式稿会把错误抹平，于是模型学到一个从不犯错的假象，也学不到发现错误的手段。
- 局部近似与上界估计。”这一步先放大一点看会不会超””先把数量级估出来再决定要不要精确算”。这是搜索里的剪枝依据，决定了模型遇到难题时会不会先做粗估。官方解答往往直接给出精确构造，跳过估计。
- 说明”为什么这一步成立”的理由句。不是”由此可得”，而是”因为条件三保证了这个变换可逆”。少了理由句，模型学到的是步骤序列而不是可迁移的判定依据，换个题目形态就断。
结论式文本一般保有第四类的一部分，缺前三类。而搜索能力恰恰长在前三类上。这解释了为什么”读起来很干净”的语料灌进去之后，模型在需要多步尝试的任务上并没有变强——它变强的是措辞。
三、”有没有决策痕迹”要写成能抽检的规则
要把这件事变成数据管线上能执行的判定，规则可以写得很薄：在同一段文本里，能否抽出至少一个具备”因为某条路不成立，所以改用另一条”结构的句子。能抽出的记为有决策痕迹，抽不出的记为结论式。判定只认结构，不认内容难度，这样两个人对同一段的判定才有可比性。
抽检比例按来源类型定，不按数据集整体定。同一个采集批次里，官方解答、讲义、论坛长帖、论文附录这四类的比例差别很大，整体抽百分之几会掩盖某一类的塌陷。做法是给每种来源类型一个最低抽检量，抽出后单独算该类型的决策痕迹比例，并把每批的比例写进数据清单。
标注一致性用双人独立标注同一子集来定，看两条结果的差别比例；差别超过团队阈值时，不急着修人，先修规则——通常是”理由句”和”决策句”被混为一谈了。规则里要写清：只解释一步为什么成立的算理由句，只有出现放弃或换路才算决策句。这两类分开计数，四类中间信号的覆盖情况才统计得出来。
四、三种补救做法，以及各自要付的代价
第一种，用模型把结论反推成过程再拿去训练。这是最常见的做法，也最容易出事：反推出来的是”合理的过程”，不是”真实的搜索过程”，它天生不会包含死路，因为反推时答案已知。要用的话必须做两件事——把这类合成样本单独标记来源类型，永远不混入真实过程样本；在评测里单独看它在需要回退的任务上的表现，一旦合成比例上升而回退类任务不动，就说明模型学的是编造的顺畅。
第二种，不给过程监督，只在最终答案上给奖励，同时把过程长度纳入约束。代价是模型仍然不知道哪条路是错的，只能靠大量采样自己撞；好处是不会引入虚构的推理痕迹。这条路必须配一个长度惩罚或长度分档，否则过程会越写越长而内容不变。
第三种，把这类数据降级为知识型语料，不进推理配比。它教的是”这种题有这种解法””这个定理叫什么”，用来补概念覆盖很好用。代价最容易被忽略：一旦降级，就得另外去找带决策痕迹的语料，而这类语料更脏、更短、更需要人工清洗。
五、算力翻倍效果反降，是三个可诊断信号
“投更多算力反而更差”听起来像玄学，实际是可定位的现象，至少三条线索值得查。
同配比下算力翻倍，验证损失先降后回升。这是过拟合到少数文本形态的典型曲线。结论式语料的可复现句式有限，训得越久，模型越把句式的表面规律当成任务规律。
训练集长度分布与评测分布错配。官方解答普遍短、单线、少回指；业务里的推理样本长、多线、需要跨段引用。短文本灌得越多，模型在长输出上的分段与回看能力越弱，评测分数掉的位置往往就在长题上，这时看总体指标会误判成”数据不够”。
数据重复率随轮次升高。这类语料的可用总量有限，多轮训练时近重复的比例会被推高。近重复不会报错，只会让模型记住具体文本，于是训练指标漂亮、迁移能力空掉。去重与近重复率要在每一轮重新统计，不能只在入库时算一次。
六、六项准入检查，以及 RAG 侧的等价分库存
训练数据侧的准入，我们建议按六项来卡，缺项不允许进推理配比。
| 检查项 | 要写的字段 | 不通过时的处置 |
|---|---|---|
| 来源类型标注 | 官方解答、讲义、论文、论坛、合成反推 | 类型不明的整批退回补标 |
| 决策痕迹抽检比例 | 按来源类型分别统计的抽检结果 | 比例过低者只进知识配比 |
| 答案可验证性 | 是否有标准答案或可执行校验 | 不可验证的不进奖励训练 |
| 去重与近重复率 | 入库与每轮的两次统计 | 近重复升高时缩量而非续训 |
| 跨轮次重复曝光计数 | 每条样本被训练的轮数 | 超阈值样本从后续轮次剔除 |
| 最小消融档位 | 混入推理配比前的最小对照配置 | 未跑消融不许提高该类配比 |
同一套判断搬到检索增强与微调语料上，等价做法是分库存：知识型语料与过程型语料各自建库、各自计量、各自回归。检索侧最容易犯的错是把官方解答当”高分答案样本”喂进微调，结果微调后的模型说话漂亮、结论稳健，唯独在需要试错的题上一错到底。分开之后，回归也要分开跑：知识库看概念覆盖与事实正确，过程库看回退、修正和估计这三类信号在输出里有没有出现。这一批检查在洹拓的数据侧清单里占的位置不低，原因很简单——这类失误花掉的是算力，而算力是训练账单里唯一不能撤回的那一项。