学习率共1篇
学习率:训练过程中最关键的超参数-子比笔记

学习率:训练过程中最关键的超参数

学习率决定模型每次参数更新的步长。太大会在最优解附近来回震荡甚至发散,太小则训练极慢、可能卡在局部最优。几乎所有的训练失败,最先要怀疑的就是学习率。 学习率是“欲速则不达”的算法版...
admin的头像-子比笔记admin10小时前
03213