参考以下文章：　　乘积量化（Product Quantization）最近邻搜索之乘积量化（Product Quantizer）理解（一）看了两天的乘积量化，先说下我自己的理解吧：（以下蓝字使我的理解，红字是我看别人的博客暂时没弄懂的，我写的比较啰嗦以便我回头自己翻看时不会再有疑问(#^.^#)）      假设我们的图片检索库有100万张图片，每张图片提取多个128维的特征向量，...

FP8训练相关技术要点总结：基于块的累加技术，减小低精度数之间相加的累积误差随机舍入技术代替四舍五入，降低舍入误差混合FP8技术，用1-4-3进行前向，1-5-2进行反向设置指数偏移，使FP8表示数的范围能覆盖网络参数的范围自动精度缩放，对网络中每层采用不同的缩放因子，减少上溢和下溢修改1-4-3FP8表示方法，无法表达无穷，但把最大值从240扩展到448采用有符号和无符号16位浮点数来存储参数

之前想看一下浮点数和整型数的表示到底有什么区别，零零散散看了一些文章，感觉写得都不得要领，今天要系统把FP16的表示原理完全讲明白。

向僵尸开炮鸡腿（体力值）比较多的朋友，如果自己没有太多时间打，就能利用这个工具自动消耗鸡腿帮你刷经验和装备

感谢：https://blog.csdn.net/weixin_40907382/article/details/79654372#commentBox一直被python的正则表达式绕的脑壳疼，看到诸如'#%.*#!~%^&&++'的东西简直是心中一万个烫烫烫屯屯屯锟斤拷滚过！！所以决定昨天花一整天的时间弄懂这一块：首先，使用python的正则表达式需要 import...

想要在pytorch的tensor中删除元素，但是pytorch中貌似没有直接删除元素的方法，那么我们就简单写一个，经过测试发现这个方法居然跟np.delete速度差不多，还以为自己写的会很慢呢