
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
【量化学习2】矩阵运算的量化
d_matrix = None #量化前的矩阵q_matrix = None #量化后的整数矩阵de_matrix = None #反量化的浮点数矩阵scale = None #比例因子zero_point = None #便宜量d_matrix, #输入矩阵,需量化bits, #数据宽度unsigned = True #默认为无符号整数):#求输入浮点数矩阵的最大值和最小值# 量化表示的最大最小

到底了







