注意力权重的可视化：看见 AI 的目光
注意力权重能告诉我们模型在生成每个词时“看”了输入的哪些部分。把它画成热力图，AI 的目光轨迹便一览无余——这是窥探黑箱最有力的工具之一。 注意力可视化的魅力在于，它把最抽象的计算变成...
10小时前
神经网络的可解释性：我们离懂它还有多远
深度模型为何有效？内部那几十亿个数字在做什么？可解释性研究试图回答这些问题。目前我们有了显微镜（注意力图、探针实验），但离真正的“理解”还很远。 可解释性是 AI 领域最深刻的科学问题...
10小时前
决策树：像人类一样做判断
决策树把决策过程画成一棵树：每个节点问一个问题，每个分支是一个答案，叶子是最终结论。“是否发烧？→ 是 → 体温多少？→ 超过 39 度 → 建议就医”，非常接近人类的推理方式。 决策树的存...
10小时前
