
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
最近突然想深入了解一下大模型的剪枝技术,于是决定拿这个熟悉的模型开刀,用 PyTorch 官方的。掩码mask是这样一个概念,就是剪枝完之后不直接修改原模型权重,而是生成一个对应的mask矩阵,和原模型的参数矩阵耦合,让某些权重变成0。L1剪枝对于输出差异大的模型剪枝效果会好一点。加载模型的时候,剪枝过的模型的transformer和分词器从原来的地方加载,模型权重从工作目录加载。神奇的是,剪枝模
本文介绍了在嵌入式设备上部署神经网络模型的经验。作者选择TensorFlow Lite Micro进行模型剪枝和量化,但由于环境配置问题,最终采用TensorFlow 2.21.0 + tensorflow_model_optimization 0.8 + tf_keras的组合。通过正弦函数拟合案例,详细展示了从模型训练、剪枝到量化的完整流程。针对资源受限的STM32F103平台,作者改用国产T
这个时候,我们的sp 指针会指向第一个任务的stack 顶部(一下用psp指代任务的sp,msp指代主的sp)。现在我们的sp指针指向了 stack顶部,pc(程序指针,它的值代表了正在执行的程序的位置,比如看到pc的值是0x00008077,就说明正在执行这个位置的函数,debug好用判断当前代码位置)会指向中断向量表的下一个,__initial_sp的下一个就是Reset_Handle,所以就
本文介绍了在嵌入式设备上部署神经网络模型的经验。作者选择TensorFlow Lite Micro进行模型剪枝和量化,但由于环境配置问题,最终采用TensorFlow 2.21.0 + tensorflow_model_optimization 0.8 + tf_keras的组合。通过正弦函数拟合案例,详细展示了从模型训练、剪枝到量化的完整流程。针对资源受限的STM32F103平台,作者改用国产T
最近突然想深入了解一下大模型的剪枝技术,于是决定拿这个熟悉的模型开刀,用 PyTorch 官方的。掩码mask是这样一个概念,就是剪枝完之后不直接修改原模型权重,而是生成一个对应的mask矩阵,和原模型的参数矩阵耦合,让某些权重变成0。L1剪枝对于输出差异大的模型剪枝效果会好一点。加载模型的时候,剪枝过的模型的transformer和分词器从原来的地方加载,模型权重从工作目录加载。神奇的是,剪枝模







