概念
当前任务对某些参数方向没有恢复作用时,有效学习偏置可沿这些方向持续推动参数,而当前误差仍小。换任务或工作点后,这些方向可能重新影响功能。
真实元件有偏差、噪声和漂移,为什么有些网络仍能学,有些却越学越坏?