logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【量化学习2】矩阵运算的量化

d_matrix = None #量化前的矩阵q_matrix = None #量化后的整数矩阵de_matrix = None #反量化的浮点数矩阵scale = None #比例因子zero_point = None #便宜量d_matrix, #输入矩阵,需量化bits, #数据宽度unsigned = True #默认为无符号整数):#求输入浮点数矩阵的最大值和最小值# 量化表示的最大最小

文章图片
#学习#矩阵#线性代数 +1
到底了