摘要： 大语言模型的高资源消耗阻碍了实际部署，需通过量化、剪枝和知识蒸馏优化推理效率。量化降低数据精度（如FP32→INT8），减少内存与计算量，但可能损失精度；剪枝剔除冗余参数（结构化/非结构化），压缩模型规模；知识蒸馏让小模型学习大模型的输出分布，保留性能的同时减小体积。三者常联合使用（如先蒸馏后剪枝+量化），在移动端等场景实现高效推理。这些技术从数据、结构和训练层面协同突破大模型落地瓶颈，是