学习率：训练过程中最关键的超参数
学习率决定模型每次参数更新的步长。太大会在最优解附近来回震荡甚至发散，太小则训练极慢、可能卡在局部最优。几乎所有的训练失败，最先要怀疑的就是学习率。 学习率是“欲速则不达”的算法版...
10小时前
批量大小：影响训练效果的无形之手
批量大小指每次参数更新时使用的样本数。大批量训练快但容易陷入尖锐极小值，小批量噪声多但泛化更好。这个看似技术性的参数，其实深刻影响模型的最终表现。 批量大小的取舍揭示了一个深刻道理...
10小时前10小时前10小时前10小时前10小时前
