JavaScript 数字精度丢失

由于计算机的二进制实现和位数限制导致有些数字无法有限表示,就像 10 / 3 的结果无法表示一样。

IEEE 754

为了浮点数据处理对于硬件、软件或者两者的结合都能产生独立的结果,不受平台的影响,IEEE 为执行浮点运算提供了一个统一标准,其规定了浮点数的表示格式、操作方式、舍入模式及异常处理。

IEEE 754 规范,是 IEEE 浮点格式的基础。

大多数编程语言的都基于这个规范。

在 IEEE-754 标准下,浮点数一共分为:

  • NaN,即 Not a Number。 非数的指数位全部为 1 同时尾数位不全为 0。 在此前提下,根据尾数位首位是否为 1,NaN 还可以分为 SNaNQNaN 两类。 前者参与运算时将会发生异常。

  • 无穷数。指数位全部为 1 同时尾数位全为0

  • 规格化数。指数位不全为 1 同时尾不全为 0。 此时浮点数的隐含位有效,其值为 1

  • 非规格化数。指数位全为 0 且尾数位不全为 0。 此时隐含位有效,值为 0。 另外需要注意,以单精度时为例,真实指数 E 并非 0-127=-127,而是-126,这样一来就与规格化下最小真实指数 E=1-127=-126 达成统一,形成过度。

  • 0。指数位与尾数位都全为 0,根据符号位决定正负。

舍入误差

在存储单元的物理限制下,无限精度的浮点数需要根据需求进行舍入操作。 IEEE 浮点格式定义了 4 种不同的舍入方式:

  1. 最近舍入,即向距离最近的浮点数舍入,若存在两个同样接近的数,则选择偶数作为舍入值。

  2. 向零舍入,又称截断舍入,将多余的精度位截掉,即取舍入后绝对值较小的值。

  3. 正向舍入,也称正无穷舍入,即舍入后结果大于原值。

  4. 负向舍入:也称负无穷舍入,即舍入后结果小于原值。

JavaScript Number

JavaScript 的数字类型(Number)遵循 IEEE 754 规范的**双精度存储(double precision)**标准。

根据 IEEE 754 规范双精度存储数字类型的内存结构如下:

  • 1 位表示符号位

  • 11 位表示指数

  • 52 位表示尾数

双精度存储数字类型占用 64 bit 空间。

所以 JavaScript 数字类型能表示的最大整数也就是: $2^{53} = 9007199254740992 $

所以,当数字越界的时候,就会出现精度丢失的现象:

console.log(0.1 + 0.2); // 0.30000000000000004
// (0.1).toString(2) => "0.0001100110011001100110011001100110011001100110011001101"
//              越界 => "0.0001100110011001100110011001100110011001100110011001"
// (0.2).toString(2) => "0.001100110011001100110011001100110011001100110011001101"
//              越界 => "0.0011001100110011001100110011001100110011001100110011"
// (0.1 + 0.2) => "0.0100110011001100110011001100110011001100110011001101"
//             => 0.30000000000000004

console.log(0.3 - 0.2); // 0.09999999999999998

console.log(8.7 * 100); // 869.9999999999999
console.log(8.8 * 100); // 880.0000000000001

console.log(0.2 / 1000000); // 2.0000000000000002e-7
console.log(0.2 / 1000000 === 0.0000002); // false

console.log(9999999999999999 === 10000000000000001); // true

解决方案

无论是 toFixed() 还是先乘倍数再缩小回原来的倍数,依旧无法完美的解决这个问题

(0.1 + 0.2).toFixed(1); // '0.3'
(1.335).toFixed(2); // 1.33

(0.1 * 10 + 0.2 * 10) / 10; // 0.3

完美的解决思路应该是将浮点数拆分成 [Number.MIN_SAFE_INTEGER, Number.MAX_SAFE_INTEGER] 区间内的值再进行计算。

可以参考以下库的实现方式:

参考

最后更新于