学会了上一题，为什么没有变得更会学习
这里讨论的是人工神经网络。训练结束后，它的参数不只储存了对旧数据的回答，也决定下一次学习时，误差信号能怎样改变内部特征与输出。
因此，一个网络可以把旧任务做得不错，却在新任务上比刚初始化的网络学得更慢。它的参数数量没有减少，更新程序也还在运行，但那些参数已经处于另一种状态。
这被称为学习可塑性下降。核心问题不是抽象地问“它还有没有学习能力”，而是：给定新任务、更新方法和训练预算，它现在还能把误差降低多少；与怎样的参照比较？
2024年的系统研究在连续图像分类、回归和强化学习问题中观察到了这种下降。1 后续工作进一步显示，它可以来自不同机制，任务变化的方式也会改变结果。23
旧任务保持、新任务学习和泛化，是三道问题
一个网络学了B以后，在旧任务A上表现下降，叫遗忘。它在B上也学不动，则是另一个问题。二者可以同时发生，也可以分离。
还有第三种情况：新任务的训练误差降得很好，但换成未见样本表现变差。这是泛化问题，不宜只凭训练成功就宣布学习质量良好。
| 关心什么 | 应该怎样测 | 常见混淆 |
|---|---|---|
| 旧知识还能否使用 | 新训练前后，回到旧任务比较 | 把旧任务下降直接当成新任务学不动 |
| 还能否学新任务 | 对同一新任务给予相同更新预算 | 任务越来越难、学习率衰减或数据暴露不足 |
| 学到的能否推广 | 用适当的独立样本或新条件评估 | 把记住有限训练集当成学到了规律 |
Dohare等把ImageNet改造成一连串随机类别对的分类任务，重复观察网络在新类别对上的表现。任务生成规则保持一致，能降低“后来任务系统性变难”的干扰，但并不是每一对类别在每个网络看来都恰好一样难。1
本篇的计算进一步采用共同新任务：在不同训练阶段复制网络，然后让这些副本学习同一个新目标。这样就可以更直接地比较，改变的是题目，还是学习者的状态。
梯度指向哪里，还取决于当前网络怎样响应
在一个简单网络里，内部单元先对输入做加权求和，再经过非线性变换，最后组合成输出。训练通过误差的梯度修改权重。
问题在于，同样大小的参数改动，在不同状态的网络里，对输出的影响可以完全不同。某些方向改一点就影响很大，另一些方向改很多也几乎没有变化。
将输出对参数的局部响应写成矩阵$J$，小幅参数更新对应：
这里$\boldsymbol\theta$是参数，$\mathbf f$是在一组输入上的预测。对平方误差，普通梯度下降的一步大致产生：
$\eta$是步长，$\mathbf r$是预测减去目标的误差。这个式子是在当前网络附近的小步近似；它让我们看到，真正影响学习的不只是“还有多少参数”，还有误差所在方向能否有效传回、能否使输出按需要改变。2
有能力表示正确答案，也可能来不及学到
先看一个完全可算的线性例子。模型有两个独立输出方向，都能表示任意目标。其中一个方向对参数的响应为1，另一个只有0.05。
两种响应都不为零，所以矩阵仍是满秩；不存在“少了一个表示维度”的问题。但在同样步长$\eta=0.8$下，两个方向的残余误差每步分别乘上：
一个方向很快学完，另一个方向却需要许多步。实际迭代与解析式一致：100次更新后，弱响应方向仍留下约81.9%的初始误差；2,000次后才降到约1.82%。
因此，有限预算下“学不动”有时是优化路径非常不利，而不是模型永远不可能表示答案。反过来，如果模型本来就没有表达目标所需的结构，单纯增加更新次数也不会补出那种能力。两类限制需要不同诊断。
内部单元为什么会变得难以使用
一种直观机制发生在ReLU单元中。ReLU输出为$\max(0,z)$：输入加权和$z$为负时，输出为零，局部导数也为零。
如果一个单元对当前全部输入都如此，它的输入权重就得不到来自这条路径的梯度。对固定输入集和普通无动量梯度下降，这个单元不能靠自身梯度重新启动。实际网络还有优化器旧动量、上游变化或新输入，因此一次检测到全零，并不等于它永远无法再活动。12
不完全为零也可能有问题。许多单元如果总处在线性区，整个网络可能失去本来需要的非线性区分；许多单元如果对所有输入几乎产生同一种响应，参数虽多，可立即使用的变化方向却少。
Lyle等还研究了另一些机制：回归目标的整体尺度很大，可能让网络大量资源用于表示公共偏置；参数增长在不同归一化条件下，也可能导致过强梯度或过弱的有效更新。处理某一个问题，并不保证其他问题一起消失。2
该研究所谓机制“独立”，主要指能找到一种设置，消除一种问题后，另一种仍使学习失败。它不是说所有机制在真实训练中互不相干。
低秩、参数大小和全零单元，是线索，不是判定书
常见诊断包括全零单元比例、权重幅度和隐藏特征的有效秩。有效秩用特征矩阵的奇异值分布，衡量变化是否集中在少数方向。
但低有效秩有时是对当前任务的合理压缩。若任务只需要一个方向，把所有方向都维持同样重要反而可能浪费资源。真正的问题是，未来任务需要的方向是否还容易重新形成。
参数幅度也不能单独判断。不同参数化可以表示同一个函数，归一化还会改变参数尺度与实际更新之间的关系。最好的做法是把这些诊断量，与明确的新任务学习测试一起看。12
下面的本库计算中，少量刷新方案的参数平均绝对值也在增加，却比一些幅度较小的方案更能学习新任务。这不能证明参数增长从来没有影响，但足以提醒我们不要把一个相关指标当成完整机制。
一个同预算实验：旧任务反复变化，学习者怎样改变
本篇用NumPy实现了一个小型持续监督学习实验。它有128个固定的12维输入、64个ReLU隐藏单元和一个二分类输出。每道任务重新分配64个0和64个1标签，连续做40道任务。
这些标签故意不包含可推广的真实规律。实验要测的是网络在有限输入集上学习新对应关系的能力，不检验真实图像、语言或未见样本的泛化。
每题使用相同的512次更新、相同大小的小批数据。不同方案共享输入、任务终点、初始化及小批抽样序列；每个设置运行5个随机种子。主要比较五种做法：
- 直接把旧任务换成新任务。
- 前半预算先将旧标签平滑推向均匀分布，再推向新标签；后半只学习新标签。
- 前半预算直接在旧、新标签之间插值；后半只学习新标签。
- 直接切换，同时按低贡献与成熟期条件，偶尔刷新少数内部单元。
- 每道任务重新初始化网络，再使用同样512次更新。
本篇的刷新借用了持续反向传播的基本思想，但属于简化实现，不能声称完整复现了原算法。1 主设置使用Adam和0.003学习率。
在这个设置中，直接切换后继续训练的表现逐渐下降；少量刷新和每题重建较能维持表现。两种平滑路径没有带来“从此不再下降”的效果，经均匀标签过渡的那一条反而更差。
这只是一个具体设置。平滑方案虽然没有增加总更新数，却把一部分预算用于过渡目标，接触最终任务的方式与直接切换不同。因此，单凭这张图，还不足以把差异全部归为学习能力损失。
再用完全相同的新任务，直接测一次学习能力
为处理这个问题，本篇在训练开始及完成第10、20、30、40题时复制网络，用从未进入主训练流的同一个新标签任务进行测试。
所有副本都用相同小批顺序、相同512次Adam更新。测试时停止单元刷新，使我们比较的是各策略留下的状态。副本的学习不会改变原来的训练轨迹。另设一个从未训练过的初始化网络，做同样测试。
主设置在第40题后的结果如下，数值为5种子平均训练准确率：
| 留下网络状态的方式 | 共同新任务学习512次后 |
|---|---|
| 从未训练过的初始化参照 | 88.0% |
| 直接切换、持续训练 | 72.2% |
| 经均匀标签过渡 | 66.4% |
| 旧、新标签直接插值 | 73.6% |
| 少量低贡献单元刷新 | 90.2% |
| 每题重新初始化后留下的状态 | 89.2% |
共同测试排除了“测试题不一样”的解释，也给所有副本相同的新任务学习预算。它支持这样的判断：在本例中，持续训练留下的状态确实使未来学习变难；刷新方案保留了较好的后续学习能力。
“90.2%比88.0%更高”不值得被包装成普适优势。它只是五个种子、一个固定探针、有限任务序列的平均值，更稳妥的说法是，这个设置下刷新后的状态保持在初始化参照附近。
另外，我们只重置直接切换网络的Adam内部状态，再做相同探针。0.003设置下平均准确率仍为72.2%，但个别种子有小幅变化。这说明在本例中，单独清空优化器记忆没有解决问题；它不证明优化器状态在其他任务中都不重要。
为什么渐变也不保证有效
首先，渐变本身有不同路径。
对二分类标签，如果某个样本的旧答案和新答案都是1，直接插值会一直保持1；“先经过均匀分布”的路径却会先变成0.5，再回到1。它并不只是让同一条路走得慢一点，而是改变了中间学习目标。
本例中，直接插值比经过均匀标签的路径表现好，但仍没有保留到初始化水平。容量、激活、优化器、过渡路径与有限预算可能共同参与；这组对照没有把它们的贡献全部分离。
更重要的是，2024年的原始研究已经包含Slowly-Changing Regression：部分输入位缓慢改变，目标由固定的较大网络产生，小网络持续追踪最好的近似。那项实验也观察到学习性能随训练延长而下降。1
2026年Liu与Mou的新研究则在多种图像与序列任务中发现，输入插值、输出过渡或改变任务采样，可以显著缓解所测设置中的损失。本文核对的是2026年6月的v2，表述重点是严重性依赖变化突兀程度，而不是所有可塑性问题都被证明是人为假象。3
其理论分析也有具体前提：相邻任务的损失变化被建模为接近单位变换的参数变换，当前参数需要处于适合局部收敛的区域。这个模型有助于解释沿良好解附近追踪的可能性，没有普遍证明真实深网络、任意漂移和有限预算都会满足这些条件。
本篇的小实验没有复现其图像与语言基准，不能用一个不同规模的反例宣布那项实证研究无效。它提供的是一条需要补充的边界：渐变可能有帮助，但要说清具体变了什么、怎样变、每一步能学多少。
刷新一些特征，为何有用，又为什么会失败
如果一个内部特征只对过去的数据有效，当前任务中几乎没有贡献，把它重新放回较容易参与学习的状态，就可能为新任务提供新的方向。
原始持续反向传播方法会估计单元贡献，并给新单元留出成熟期；新单元的输出权重先设为零，避免它一加入就随机扰动预测。但移除旧单元仍可能改变已有函数，贡献低也只是在当前观测分布下的判断，不保证它对所有未来任务无用。1
本篇的网络状态记录，与这种解释相符：刷新方案较少累积全零单元，保留了较丰富的特征方向。不过刷新同时改变权重、局部优化器状态和表示，不能仅凭几条相关曲线，把所有收益归给某一个指标。
把学习率从0.003改为0.01后，刷新方案在第40题后的共同探针平均准确率降为76.3%，而从未训练的参照约为98.4%。原先表现不错的方法，在另一设置中仍没有充分维持学习能力。
后续研究也比较了不同刷新粒度。Hernandez-Garcia等发现，较窄网络或含层归一化时，刷新个别权重可以优于刷新整个单元；其他设置下两者相近。4 这提醒我们，“重新开始”不是只有全模型清空一种选择，但选择哪部分、多久一次、如何保护已有作用，都属于方法的条件。
结合Lyle等的研究，归一化、目标尺度处理和权重控制可以分别处理不同问题，适当组合更可能有效。2 这些方法仍要通过实际新任务测试验收，不能靠“权重看起来更整齐”代替结果。
学得动新题，并没有自动保留旧答案
本篇也记录了旧任务在新训练前后的表现。少量刷新方案较能学新题，但旧标签的正确率仍下降。
这个实验还有一个刻意保留的限制：同一个输入，旧任务可能要求0，新任务可能要求1。如果不给任务身份、上下文或其他区分信息，一个确定输出不可能同时满足两者。
因此，这里能清楚看到“学习新对应关系”与“继续输出旧答案”是两项不同指标，却不能把所有旧任务下降都当成某种算法本应能够避免的缺陷。真正研究知识保持时，需要设计可兼容的任务、必要的上下文，并说明旧数据是否允许回放。
更有用的诊断，应当找到失去的是哪一种能力
对于具体系统，可以先做几项有明确目的的比较：固定共同新任务与更新预算，区分训练与泛化；复制当前状态做测试，避免诊断本身改变原轨迹；再分别试优化器重置、目标尺度调整、归一化或局部刷新，观察哪一种干预确实恢复了学习。
同时，要检查任务生成规则、旧新目标是否冲突，以及平滑过渡有没有改变目标的信息量。只换一个算法名字，却连训练预算和实际学习目标也一起换掉，很难判断改善来自哪里。
本篇的机制认识是：长期训练既积累答案，也改变未来更新所能使用的方向。可塑性下降可以来自单元响应、表示方向、参数尺度与优化历史等不同环节；任务变化方式决定这些问题如何被触发。保持学习能力，需要维持可用的更新通路，同时分别衡量旧知识保持、局部刷新和整体重建的代价。