JavaScript辅助精度计算ES6新特性:Number.EPSILON,使0.1+0.2 = 0.3
Number.EPSILON,使 0.1+0.2 = 0.3,Number.EPSILON 辅助精度计算问题,无论什么浮点数的加减小于该值,就可以认为其相等...
·
关于0.1 + 0.2 == 0.3 为 fasle 的就不再多余解释了
网上全是 Math.abs(0.1 - 0.3 + 0.2) < Number.EPSILON 为 true 就代表相等,都没有一个详细的解释
本文将讲解本人理解,若有问题多谢指出
这段代码有两个问题,第一个是 Math.abs 是干什么的? ,Number.EPSILON 又是什么意思?
所以本文总结出以下几点:
Math.abs 是代表取绝对值的意思
Number.EPSILON 代表一个很小的数,具体多小?就是2的-52次方
所以 Math.abs(0.1 - 0.3 + 0.2) < Number.EPSILON 的意思就是 0.1 - 0.3 + 0.2 的绝对值小于Number.EPSILON 的话,就可以忽略不计,属于精度问题,类似于上学时候的圆周率多少位以后可以忽略不计,所以可得出 0.1 + 0.2 = 0.3 ,Number.EPSILON 辅助精度计算问题,无论什么浮点数的加减小于该值,就可以认为其相等
为什么要用Math.abs呢?因为需要正数对比,因为Number.EPSILON是2的-52次方,不是-2的-52次方
更多推荐
已为社区贡献1条内容
所有评论(0)