解码策略:如何让 AI 说“对”的话
模型给出的是每个词的概率分布,最终说什么由解码策略决定:贪心解码总是选最高概率(稳定但死板),束搜索平衡质量与多样性,采样策略带来创造力与意外。 解码策略的存在说明:同样的知识储备...
自我一致性:多次采样取多数
自我一致性是提升推理准确率的技巧:让模型对同一问题生成多条推理链,取出现最多的答案。它用“多投票”的方式对抗单次采样的随机性,成本极低效果显著。 自我一致性的智慧很朴素:不确定的时...
类别不平衡:当 1% 的问题掩盖 99% 的正常
类别不平衡指正负样本数量悬殊(如 1% 的欺诈交易)。此时模型只要全猜“正常”就有 99% 准确率,但对业务毫无价值。处理不平衡是工业 AI 的常见挑战。 类别不平衡其实是一个关于“稀有但重要”...
温度参数:控制 AI 的创造力旋钮
温度(Temperature)是控制模型输出随机性的参数,取值通常 0 到 2。温度越低输出越确定保守,温度越高越发散有创意。写代码用低温度,写诗歌用高温度。 温度的存在说明 AI 输出本质上不是“查...





