
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
模型优化系列——模型剪枝——剪枝算法框架OTOv2
OTOV2提出了一种自动化的DNN训练与压缩框架,通过创新性的图算法自动划分零不变组(ZIG)并采用双半空间投影梯度(DHSPG)优化器实现结构化稀疏。该框架能够一次性完成模型训练与压缩,无需微调即可生成高性能紧凑模型。关键技术包括:1)自动ZIG分区算法(线性时间复杂度)识别最小可剪枝参数组;2)DHSPG优化器通过双半空间投影实现可靠稀疏控制。相比前代,OTOv2具有更好的泛化能力和更少的超参

模型优化系列——模型量化
本文系统介绍了神经网络量化方法,首先区分了定点与浮点表示的差异,重点阐述了对称量化(将FP32值线性映射到INT8范围)和非对称量化(通过min/max确定缩放系数)两种核心方法。量化算术部分说明了INT8运算需INT32保存结果的实现机制。文章详细对比了三种主流量化技术:训练后动态量化(实时调整参数)、静态量化(固定校准参数)以及量化感知训练(模拟量化噪声),并提供了PyTorch实现代码示例。

nvidia-smi 显示无信息
总结:更新CUDA版本和驱动版本。

到底了







