为什么需要模型压缩

本节你将能

说出至少三类需要模型压缩的业务场景，并解释压缩目标不只是「参数变少」。

直觉模型

大模型像百科全书级老师，部署时常装不进手机、跑不起实时；压缩是在「能力」和「成本」之间找可上线点。

核心要点

• 约束：延迟、吞吐、显存/内存、电量、合规与成本
• 常见手段：剪枝、量化、低秩、知识蒸馏、高效架构
• 蒸馏独特处：把教师的「软知识」（类间关系）迁给学生

常见误区

只盯参数量——真实瓶颈可能是带宽、算子或批大小。

动手

列出你业务里的延迟预算与可接受精度掉点。

互动

完成测验后进入 Teacher-Student 范式。

本节小结

压缩是工程约束问题；下一节明确蒸馏角色分工。