K 近邻:物以类聚的算法版本

K 近邻(KNN)的思路极其直白:想判断一个新数据属于哪类,就看它最近的 K 个邻居属于哪类,少数服从多数。它几乎不需要训练,是“懒学习”的典型代表。

KNN 证明了有时候最简单的逻辑最接近直觉——判断一个人,看他身边的朋友就行。它也提醒我们注意“圈子”的力量:在数据世界里,一个点的身份,很大程度上由它的邻域决定。

## 核心要点


图片[1]-K 近邻:物以类聚的算法版本-子比笔记

图片来源:Openverse / Ars Electronica(https://www.flickr.com/photos/36085842@N06/4957128241)

1. KNN 的计算都发生在预测时,训练阶段几乎零成本。

2. 它的效果强烈依赖距离度量与特征缩放,务必做归一化。

3. 高维空间中距离会失效,这就是著名的“维度灾难”。

4. K 值选择很关键:太小容易受噪声影响,太大边界模糊。

图片[2]-K 近邻:物以类聚的算法版本-子比笔记

图片来源:Openverse / Wonderlane(https://www.flickr.com/photos/71401718@N00/4317735571)

## 写在最后

以上是关于「K 近邻」的科普介绍。人工智能正在快速发展,相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。

© 版权声明
THE END
喜欢就支持一下吧
点赞7 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片快捷回复

    请登录后查看评论内容