解码策略：如何让 AI 说“对”的话

模型给出的是每个词的概率分布，最终说什么由解码策略决定：贪心解码总是选最高概率（稳定但死板），束搜索平衡质量与多样性，采样策略带来创造力与意外。

解码策略的存在说明：同样的知识储备，表达方式可以完全不同。这像极了人的沟通——同样的想法，不同的措辞带来截然不同的效果。如何“说出口”是一门独立于“知道什么”的学问。

## 核心要点

图片来源：Openverse / Chris Spiegl（https://www.flickr.com/photos/25188624@N02/5335758324）

1. 贪心解码会陷入重复循环，需要采样来打破。

2. Top-P（核采样）比 Top-K 更自适应，是当前主流。

3. 温度控制随机性，任务类型决定最佳取值。

4. 重复惩罚参数能缓解“车轱辘话”问题。

图片来源：Openverse / ocean.flynn（https://www.flickr.com/photos/89488115@N00/6638184545）

## 写在最后

以上是关于「解码策略」的科普介绍。人工智能正在快速发展，相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。