小样本学习：几个例子就能学会
小样本学习（Few-shot Learning）研究如何用极少量样本掌握新任务——人类看一个苹果就能认识苹果，机器却需要成千上万张图。这是当前 AI 与人类智能差距最明显的地方之一。 小样本学习触及了智...
10小时前
元学习：让模型学会学习
元学习（Meta-Learning）的训练对象不是某个具体任务，而是“快速学习新任务的能力”。它让模型面对新问题时能用更少数据、更短时间适应，被称为通向 AGI 的路径之一。 元学习把“学习”本身变...
10小时前
在线学习：模型与时俱进
在线学习让模型随着新数据持续更新，而不是固定不变。在推荐、风控、舆情等场景，用户行为和攻击手段每天都在变，模型必须跟着变才能保持有效。 在线学习印证了一个常识：世界在变，静止的模型...
10小时前
早停法：训练何时该喊停
早停法在验证集误差开始上升时停止训练——虽然训练误差还在下降，但模型已经开始过拟合。它是最简单、最有效的正则化手段，几乎不需要额外计算成本。 早停法教会我们一件重要的事：懂得停下来...
10小时前
数据增强：不增加数据却让模型更强
数据增强通过对现有数据做变换（翻转、旋转、裁剪、加噪声）生成“新”样本，扩大有效训练集。它不需要采集新数据，却能显著提升模型的泛化能力。 数据增强的精髓是“换角度看问题”。同一张图...
10小时前
优化器：Adam 为什么成为主流
优化器决定了如何根据梯度更新参数。SGD 是最基础的，Adam 引入了动量（累积历史方向）与自适应学习率（每个参数有自己的步长），成为深度学习时代使用最广泛的优化器。 优化器的演进史是一部“...
10小时前
反向传播：深度学习的高效引擎
反向传播是训练神经网络的核心算法：先正向计算输出与误差，再反向逐层计算每个参数对误差的贡献（梯度），最后据此更新参数。它让多层网络的可训练性成为现实。 反向传播的巧妙在于“责任分配...
10小时前
L1 与 L2 正则化：稀疏与平滑的选择
L1 正则化（绝对值惩罚）倾向产生稀疏解，把不重要的参数直接压到零；L2 正则化（平方惩罚）倾向让所有参数都变小但不为零，解更平滑。选哪个取决于具体需求。 这两种惩罚方式折射出不同的处世...
10小时前
学习率：训练过程中最关键的超参数
学习率决定模型每次参数更新的步长。太大会在最优解附近来回震荡甚至发散，太小则训练极慢、可能卡在局部最优。几乎所有的训练失败，最先要怀疑的就是学习率。 学习率是“欲速则不达”的算法版...
10小时前
批量大小：影响训练效果的无形之手
批量大小指每次参数更新时使用的样本数。大批量训练快但容易陷入尖锐极小值，小批量噪声多但泛化更好。这个看似技术性的参数，其实深刻影响模型的最终表现。 批量大小的取舍揭示了一个深刻道理...
10小时前
朴素贝叶斯：简单但强大的概率推断
朴素贝叶斯基于贝叶斯定理做分类：已知某些特征出现，计算属于各类别的概率，取最大者。它之所以“朴素”，是假设各特征之间相互独立——虽然这个假设常常不成立，但效果出人意料地好。 朴素贝...
10小时前
K 近邻：物以类聚的算法版本
K 近邻（KNN）的思路极其直白：想判断一个新数据属于哪类，就看它最近的 K 个邻居属于哪类，少数服从多数。它几乎不需要训练，是“懒学习”的典型代表。 KNN 证明了有时候最简单的逻辑最接近直...
10小时前
