强化学习:在试错中成长的 AI
强化学习让智能体在环境中不断行动、获得奖励或惩罚,从而学会达成目标的最优策略。它最像人类的学习方式——小孩学走路,摔了知道疼,走稳了有掌声。 强化学习最激动人心的案例是 AlphaGo:它...
自监督学习:大模型时代的隐形主角
自监督学习从数据本身构造监督信号——把句子挖空让模型填、把图片遮住让模型补。不需要人工标注,却能从海量数据中学到丰富知识,这是大模型能被训出来的关键。 自监督学习的精妙在于“把找答...
线性回归:最简单也最实用的算法
线性回归用一条直线拟合数据之间的关系:知道自变量,预测因变量。它是最古老、最基础、也最容易被低估的算法——很多商业分析至今仍靠它做决策。 线性回归最大的美德是诚实:它告诉你每个因素...
逻辑回归:分类问题的经典解法
逻辑回归虽然名字里有“回归”,其实是做分类的:它输出一个 0 到 1 之间的概率,表示某件事发生的可能性。银行判断你违约的概率、邮箱判断邮件是垃圾的概率,背后常常是它。 逻辑回归的魅力在...
决策树:像人类一样做判断
决策树把决策过程画成一棵树:每个节点问一个问题,每个分支是一个答案,叶子是最终结论。“是否发烧?→ 是 → 体温多少?→ 超过 39 度 → 建议就医”,非常接近人类的推理方式。 决策树的存...
随机森林:三个臭皮匠顶个诸葛亮
随机森林同时训练许多棵决策树,每棵树只看部分数据、用部分特征,最后投票表决。这种“集成”策略大幅提升了预测的稳定性和准确率,是工业界最常用的算法之一。 随机森林的智慧是反直觉的:一...
支持向量机:寻找最佳分界线
支持向量机(SVM)的目标是在不同类别之间画出一条“最宽的分界线”,让两侧的数据离分界线都尽量远。它曾经在深度学习爆发前称霸图像与文本分类领域。 SVM 的“最大间隔”思想很有哲理:不要只...
朴素贝叶斯:简单但强大的概率推断
朴素贝叶斯基于贝叶斯定理做分类:已知某些特征出现,计算属于各类别的概率,取最大者。它之所以“朴素”,是假设各特征之间相互独立——虽然这个假设常常不成立,但效果出人意料地好。 朴素贝...
K 近邻:物以类聚的算法版本
K 近邻(KNN)的思路极其直白:想判断一个新数据属于哪类,就看它最近的 K 个邻居属于哪类,少数服从多数。它几乎不需要训练,是“懒学习”的典型代表。 KNN 证明了有时候最简单的逻辑最接近直...
K 均值聚类:数据自己分小组
K 均值把数据分成 K 个簇:先随机放 K 个中心点,每个数据归入最近的中心,然后中心移到本簇数据的平均位置,反复迭代直到稳定。它是聚类算法中最常用的一种。 K 均值的迭代过程有种朴素的秩序...
主成分分析(PCA):给数据做减法
PCA 是一种降维技术:在尽量保留信息的前提下,把高维数据压缩到低维。一张人脸有上万个像素,PCA 能用几十个“主成分”就大致还原它,是数据压缩与可视化的利器。 PCA 的哲学很迷人:任何复杂...
梯度提升树:Kaggle 竞赛的常胜将军
梯度提升树通过串联很多棵弱决策树来强化模型:每棵新树专门纠正前面所有树犯的错误,一步步逼近最优解。XGBoost、LightGBM 是其集大成者,长期称霸数据科学竞赛。 梯度提升树的策略很励志:不...












