腾讯混元ACL 2026论文：SFT训练中15.3%样本“假学会”，loss收敛不代表真掌握

SFT是当前LLM领域适配的主流方法，业界默认做法是准备标注数据、跑SFT训练、看loss曲线收敛即认为训练完成。但腾讯混元团队对Qwen、LLaMA、OLMo2等多个模型家族（1.8B-14B）和10个数据集进行全面排查，发现每个模型、每个数据集上都有一批训练样本——模型在训练中见过，loss也降下去了，但回头重测就是答不对。平均比例高达15.3%。论文将此定义为“不完全学习现象”（Incomplete Learning Phenomenon，ILP），并指出这是SFT训练的系统性盲区。

检测方法上，论文将每条SFT数据（QA对）用GPT-4转成4选1选择题，并通过四级质量过滤。然后使用pass@k指标（k=5），对每个MC题采样5次，5次全部选错即判定为ILP样本。三重验证（跨温度一致性、重测信度Kappa=0.89、跨模型一致性）确保了判定的可靠性。

论文提出了一个2×2归因矩阵，纵轴为“基模型是否已掌握该知识”（预训练阶段），横轴为“SFT标签是否正确”（标注质量）。通过两步快速定位：首先在基座模型上做零样本测试判断知识方向，然后取early-20%和late-20% checkpoint比较训练方向，最终锁定五大根因。

关键发现之一是ILP与标注质量无关：即使SFT标签正确率超过98%，ILP仍然存在，说明这不是“数据错了”的问题，而是SFT训练机制本身的系统性不足。另一个惊人发现是ILP与模型规模弱相关：从Qwen-1.8B换到Qwen-14B，ILP仅降低2.1个百分点，表明更大规模的模型并不能显著解决“学不会”的问题。

论文根据五种根因设计了对症的五类干预。最惊人的对比实验是：CPT（2倍训练量）使ILP降低12.5%，而加epochs（10倍训练量）仅降低2%。这意味着拼命加SFT训练轮次几乎没用，真正的瓶颈在于预训练阶段的知识储备。SFT本身存在物理上限，它只能“重新组织”已有知识，无法凭空创造新知识。

物理溯源验证进一步支持了这一结论：将ILP样本中涉及的知识点在Dolma 5T语料库中检索，发现19.3%的知识点完全不存在（根因I：知识缺失），14.5%存在冲突信息（根因II：知识冲突）。

论文的发现对实践有重要指导意义。首先，不要迷信loss收敛，训练完了不等于学会了，需要pass@k+MC转换做样本级诊断。其次，加epoch性价比极低，10倍SFT算力换2%改善，不如把预算投到预训练数据上。第三，知识缺失是第一大根因，如果下游任务有大量模型没见过的新知识，SFT几乎无能为力，需要先做CPT。此外，数据去重和一致性是低成本高收益的事，全局shuffle和动态分桶实现简单，ROUGE-L能提升29%。最后，2×2矩阵可在几分钟内完成根因定位，不需要全量重训。