概念
不同参数方向对输出或损失的响应尺度不同,可能使部分误差在有限更新预算内难以消除。模型可表示目标、矩阵满秩与容易训练不是同一个条件。
可调元件很多,为什么仍然学不会某些任务?
神经网络为什么有时越学越难学,怎样保持学习新东西的能力?