部署共1篇
模型压缩:让大模型变小巧-子比笔记

模型压缩:让大模型变小巧

模型压缩是一族技术的总称:量化、剪枝、蒸馏、低秩分解,目的都是同一个——用更小的体积、更少的计算,跑到几乎同样的效果。它是 AI 从云端走向终端的桥梁。 模型压缩的艺术是“取舍”:什么...
admin的头像-子比笔记admin10小时前
05014