bangrenzhuce 2019-06-25
经常使用JavaScript用来处理数字的程序员都知道,JavaScript的Number.toFixed
,这一函数,在格式化数字时,会自动进行四舍五入,例如:
10.125.toFixed(2) ---> "10.13"
但是在某些情况下,其四舍五入的结果,往往都不尽人意,例如:
10.145.toFixed(2) ---> "10.14"
那为何为出现上述这种情况,需要从进制谈起。
众所周知,计算机在设计之初,出于各方面角度考虑,最终采用二进制的格式来存储数据。而我们平时对于数字所惯用的进制是十进制。用二进制的格式来存储十进制的数据,必然会面临进制的转换,进制的转换就会面临精度的丢失。
例如,对于⅓,对于三进制的数来说是0.1,而对于十进制来说,是0.333(3循环)。那对于三个⅓相加,对于三进制来说,就是一(逢三进一),而对于十进制来说,就是0.999(9循环)。
同样的情况,也会出现在十进制和二进制的转换中。当我们在计算机中,声明一个变量为10.145,其实该数字作为二进制保存在计算机中,并不真的是10.145。可以通过Number.prototype.toPrecision
方法来一探究竟。
Number.prototype.toPrecision
方法以指定的精度返回该数值对象的字符串表示。
10.145.toPrecision(21) ---> "10.1449999999999995737"
因此就可以解释,为什么toFixed()
方法返回的四舍五入的值,在某些情况不符合预料。
同样,也告诉大家,浮点数的所有计算,加减乘除无一例外,在某些情况下,都会出现不符合预料的情况,最常见的如0.1+0.2
,等等。
针对上述情况,我写了一个简单的库,可以满足数字的四舍五入需求。round-js
和大部分语言不同,JavaScript目前对于数字的表示,只有一种类型,即Number,采用64位双精度浮点数来表示一个数,其标准与大多数语言一样,采用IEEE-754标准。IEEE-754下64位双精度浮点数的标准,可以用一张图来表示,如下:
sign:代表符号,用1位来表示,即正数负数,1代表正数,0代表负数;
exponent:代表指数,底数为2,用11位来表述;
fraction:真正的有效数字,用52位来表示。
最终,任何一个数,对于该标准,都使用如下公式来表示得出:
其中:
V:结果
S:上面的sign
M:有效数字fraction
E:上面的exponent
可以看出,这个表示方法,类似十进制中的科学计数法。
对于这些概念,IEEE-754标准中还有许多规定,例如<1M<2
,等等,更多细节就不展开了。
完。