训练与推理：AI 的两个阶段

训练是模型从数据中学习、调整参数的过程，耗时长、成本高；推理是模型用学到的知识处理新请求的过程，要求快、成本低。一个 AI 产品的成本结构主要由这两个阶段构成。

对产品经理和创业者，理解训练/推理的区别很重要：不要一上来就想训自己的模型。先用好现成模型的 API，验证需求存在，再考虑微调甚至自训——这是被无数案例验证过的成本最优路径。

## 核心要点

图片来源：Openverse / DmitrySandalov（https://www.flickr.com/photos/56917993@N03/5460994258）

1. 训练是“一次投入”，推理是“持续消耗”，用量越大推理成本越高。

2. 训练用 GPU 集群跑数天到数月，推理可以在单卡甚至手机上完成。

3. 模型部署的核心优化是降低推理延迟与显存占用。

4. 许多公司选择微调开源模型而不是从零训练，就是为了省训练成本。

图片来源：Openverse / surRANTo dwi saputra（https://www.flickr.com/photos/125321218@N07/23793808619）

## 写在最后

以上是关于「训练与推理」的科普介绍。人工智能正在快速发展，相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。