深度学习共24篇
AI 文献导读:影响深远的重要论文-子比笔记

AI 文献导读:影响深远的重要论文

几篇塑造了今天 AI 格局的论文:《Attention is All You Need》提出 Transformer,《BERT》开创预训练理解范式,《GPT-3》证明规模的力量,AlphaGo 展示强化学习的潜力。读它们,就是读 AI 的思...
admin的头像-子比笔记admin9小时前
0378
注意力权重的可视化:看见 AI 的目光-子比笔记

注意力权重的可视化:看见 AI 的目光

注意力权重能告诉我们模型在生成每个词时“看”了输入的哪些部分。把它画成热力图,AI 的目光轨迹便一览无余——这是窥探黑箱最有力的工具之一。 注意力可视化的魅力在于,它把最抽象的计算变成...
admin的头像-子比笔记admin9小时前
03210
神经网络的可解释性:我们离懂它还有多远-子比笔记

神经网络的可解释性:我们离懂它还有多远

深度模型为何有效?内部那几十亿个数字在做什么?可解释性研究试图回答这些问题。目前我们有了显微镜(注意力图、探针实验),但离真正的“理解”还很远。 可解释性是 AI 领域最深刻的科学问题...
admin的头像-子比笔记admin9小时前
0316
深度学习的数据增强进阶-子比笔记

深度学习的数据增强进阶

基础增强是翻转裁剪,进阶增强是 MixUp(把两张图混合)、CutMix(拼接图片区域)、RandAugment(随机组合增强操作)。它把有限数据的价值榨干。 数据增强的底层逻辑是“制造困难的多样性”。模...
admin的头像-子比笔记admin9小时前
04814
损失函数设计:定义“好”的艺术-子比笔记

损失函数设计:定义“好”的艺术

同样的任务,换一个损失函数,模型表现可能天差地别。损失函数定义了“什么是好”,而如何定义“好”,往往是最难的技术决策。 损失函数的设计是最具哲学意味的工程实践:你把什么定义为“误差...
admin的头像-子比笔记admin9小时前
02215
超分辨率:把模糊变清晰-子比笔记

超分辨率:把模糊变清晰

超分辨率(SR)把低分辨率图像放大并补细节。传统插值只会让图更糊,深度学习模型能“猜”出合理细节,让老照片重获新生。 超分辨率的本质是“有依据的想象”:模型不是恢复真相,而是基于经验...
admin的头像-子比笔记admin9小时前
0418
去噪与图像恢复:拯救不完美的图像-子比笔记

去噪与图像恢复:拯救不完美的图像

去噪、去模糊、去雨去雾、去摩尔纹,这些任务统称图像恢复。它们共享同一个思路:建模退化过程,然后学习逆过程。深度学习让这些任务的精度都上了一个台阶。 图像恢复的思路——“理解事物如何...
admin的头像-子比笔记admin9小时前
0257
卷积层:CNN 的特征提取器-子比笔记

卷积层:CNN 的特征提取器

卷积层用一个小矩阵(卷积核)在图像上滑动,每滑动一次就计算一次内积,得到一张特征图。它是 CNN 提取边缘、纹理等局部特征的数学工具,也是深度学习视觉革命的起点。 卷积的美妙在于“局部性...
admin的头像-子比笔记admin9小时前
02412
池化层:给特征图做降采样-子比笔记

池化层:给特征图做降采样

池化层把特征图缩小:取一小块区域的最大值(最大池化)或平均值(平均池化)作为一个输出。它降低了计算量,同时赋予模型一定的平移不变性。 池化的设计体现了“有所取舍”的智慧:主动丢弃一...
admin的头像-子比笔记admin9小时前
0288
感受野:神经元能“看见”多大区域-子比笔记

感受野:神经元能“看见”多大区域

感受野指一个神经元在原始图像上“看到”的区域大小。网络越深,感受野越大,神经元也从看局部像素进化到看整张图。理解感受野,就理解了 CNN 是如何逐层抽象的。 感受野像一个人的视野:阅历越...
admin的头像-子比笔记admin9小时前
0268
张量:深度学习的基本数据结构-子比笔记

张量:深度学习的基本数据结构

张量是深度学习中万能的数据容器:标量是 0 维张量,向量是 1 维,矩阵是 2 维,图像是 3 维,一批图像是 4 维。所有深度学习运算都可以归约为张量运算。 张量的哲学很迷人:万物皆数。一张照片...
admin的头像-子比笔记admin9小时前
02814
变分自编码器(VAE):学会压缩与重建-子比笔记

变分自编码器(VAE):学会压缩与重建

VAE 把输入压缩成一个概率分布(编码),再从中采样重建输出(解码)。它让模型学到的不是固定向量而是连续可插值的空间,是生成模型的重要分支。 VAE 最迷人的能力是“语义插值”:在笑脸上减...
admin的头像-子比笔记admin9小时前
04715