x-note
  • Introduction
  • JavaScript
    • JavaScript 作用域链
    • JavaScript 数据结构与类型
    • JavaScript 原型
    • JavaScript this 关键字
    • JavaScript 函数
    • JavaScript delete 运算符
    • JavaScript 内存管理与垃圾回收
    • JavaScript 严格模式与混乱模式
    • JavaScript 数字精度丢失
    • JavaScript 并发模型
    • 利用原型链实现继承
  • ECMAScript
    • ECMAScript 6 变量及常量的声明
    • ECMAScript 6 变量的解构赋值
    • ECMAScript 6 Promise 对象
    • ECMAScript 6 Symbol
    • ECMAScript 6 Proxy
    • ECMAScript 6 Reflect
    • ECMAScript 6 new.target
    • ECMAScript 6 Set 和 WeakSet
    • ECMAScript 6 Map 和 WeakMap
    • ECMAScript 6 Iterator
    • ECMAScript 6 Generator
    • ECMAScript 6 class
    • ECMAScript 7
    • ECMAScript 8 async 函数
    • ECMAScript 8 内存共享与原子性
    • ECMAScript 8 Others
    • ECMAScript 2018
    • ECMAScript 2019
  • CSS
    • CSS 块格式化上下文(BFC)
    • CSS 盒模型
    • CSS 外边距合并
    • CSS Float
    • CSS Position
    • CSS Border-Image
    • CSS BEM
    • CSS 表布局详解
    • 页面布局之单列布局
    • 页面布局之多列布局
  • React
    • React 组件的生命周期
    • React 虚拟 DOM
    • React Reconciliation
    • React Diff 算法核心
    • React Fiber
    • React Scheduling
    • React Context API
    • React Refs
    • React HMR
    • React Hook
  • VUE
    • VUE 响应式系统
    • VUE 渲染机制
    • 关于 Vue 的思考
  • Webpack
    • Webpack 基本概念
    • Webpack HMR
  • Babel
    • @babel/preset-env
  • WEB
    • WEB 基础知识及概念
      • 屏幕测量单位
      • 重绘与重排
      • 前端模块化系统
      • WEB 客户端存储
      • 浏览器的渲染过程
    • WEB 性能优化
      • WEB 性能指标
      • WEB 图片优化
      • 懒加载资源
    • WEB 安全
      • XSS
      • XSRF
      • 点击劫持
      • 同源策略(Same Origin Policy,SOP)
    • WEB 解决方案
      • webp 兼容方案
      • WEB 拖拽实现方案
    • WEB SEO
  • Git
    • Git 工作流
    • Git 内部原理
  • 传输协议
    • UDP
      • UDP 基本概念
    • TCP
      • TCP 基本概念
    • HTTP
      • HTTP 基础
      • HTTP 缓存
      • HTTP-2
      • HTTP-3
      • HTTPS
      • 自定义 HTTPS 证书
  • Protocol Buffers
    • Protocol Buffers 基础
  • gRPC
    • gRPC 简介
    • gRPC 基础概念
    • GRPC with GraphQL and TypeScript
  • 正则表达式
    • 正则表达式基础
    • 正则表达式的悲观回溯
  • 基础算法
    • 冒泡排序
    • 插入排序
    • 选择排序
    • 快速排序
    • 归并排序
    • 希尔排序
    • 堆排序
    • 桶排序
    • 计数排序
    • 基数排序
    • 二叉树的遍历
    • 动态规划
    • 回溯
  • 压缩算法
    • HPACK
    • QPACK
  • 设计模式
    • DDD
      • 模型元素的模式
    • 常见设计模式
      • 工厂方法
      • 抽象工厂
      • 构造器
      • 原型
      • 单例模式
      • 适配器模式
      • 桥接模式
      • 组合模式
      • 外观模式
      • 享元模式
      • 代理模式
      • 责任链模式
      • 命令模式
      • 迭代器模式
      • 中介者模式
      • 备忘录模式
      • 观察者模式
      • 状态模式
      • 策略模式
      • 模版方法模式
      • 访问者模式
      • 依赖注入
    • MVC
    • MVP
    • MVVM
  • 颜色空间
    • LCH
由 GitBook 提供支持
在本页
  • IEEE 754
  • 舍入误差
  • JavaScript Number
  • 解决方案
  • 参考
在GitHub上编辑
  1. JavaScript

JavaScript 数字精度丢失

上一页JavaScript 严格模式与混乱模式下一页JavaScript 并发模型

最后更新于5年前

由于计算机的二进制实现和位数限制导致有些数字无法有限表示,就像 10 / 3 的结果无法表示一样。

IEEE 754

为了浮点数据处理对于硬件、软件或者两者的结合都能产生独立的结果,不受平台的影响,IEEE 为执行浮点运算提供了一个统一标准,其规定了浮点数的表示格式、操作方式、舍入模式及异常处理。

规范,是 IEEE 浮点格式的基础。

大多数编程语言的都基于这个规范。

IEEE 754

在 IEEE-754 标准下,浮点数一共分为:

  • NaN,即 Not a Number。 非数的指数位全部为 1 同时尾数位不全为 0。 在此前提下,根据尾数位首位是否为 1,NaN 还可以分为 SNaN 和 QNaN 两类。 前者参与运算时将会发生异常。

  • 无穷数。指数位全部为 1 同时尾数位全为0。

  • 规格化数。指数位不全为 1 同时尾不全为 0。 此时浮点数的隐含位有效,其值为 1。

  • 非规格化数。指数位全为 0 且尾数位不全为 0。 此时隐含位有效,值为 0。 另外需要注意,以单精度时为例,真实指数 E 并非 0-127=-127,而是-126,这样一来就与规格化下最小真实指数 E=1-127=-126 达成统一,形成过度。

  • 0。指数位与尾数位都全为 0,根据符号位决定正负。

舍入误差

在存储单元的物理限制下,无限精度的浮点数需要根据需求进行舍入操作。 IEEE 浮点格式定义了 4 种不同的舍入方式:

  1. 最近舍入,即向距离最近的浮点数舍入,若存在两个同样接近的数,则选择偶数作为舍入值。

  2. 向零舍入,又称截断舍入,将多余的精度位截掉,即取舍入后绝对值较小的值。

  3. 正向舍入,也称正无穷舍入,即舍入后结果大于原值。

  4. 负向舍入:也称负无穷舍入,即舍入后结果小于原值。

JavaScript Number

JavaScript 的数字类型(Number)遵循 IEEE 754 规范的**双精度存储(double precision)**标准。

根据 IEEE 754 规范双精度存储数字类型的内存结构如下:

  • 1 位表示符号位

  • 11 位表示指数

  • 52 位表示尾数

双精度存储数字类型占用 64 bit 空间。

所以 JavaScript 数字类型能表示的最大整数也就是: $2^{53} = 9007199254740992 $

所以,当数字越界的时候,就会出现精度丢失的现象:

console.log(0.1 + 0.2); // 0.30000000000000004
// (0.1).toString(2) => "0.0001100110011001100110011001100110011001100110011001101"
//              越界 => "0.0001100110011001100110011001100110011001100110011001"
// (0.2).toString(2) => "0.001100110011001100110011001100110011001100110011001101"
//              越界 => "0.0011001100110011001100110011001100110011001100110011"
// (0.1 + 0.2) => "0.0100110011001100110011001100110011001100110011001101"
//             => 0.30000000000000004

console.log(0.3 - 0.2); // 0.09999999999999998

console.log(8.7 * 100); // 869.9999999999999
console.log(8.8 * 100); // 880.0000000000001

console.log(0.2 / 1000000); // 2.0000000000000002e-7
console.log(0.2 / 1000000 === 0.0000002); // false

console.log(9999999999999999 === 10000000000000001); // true

解决方案

无论是 toFixed() 还是先乘倍数再缩小回原来的倍数,依旧无法完美的解决这个问题

(0.1 + 0.2).toFixed(1); // '0.3'
(1.335).toFixed(2); // 1.33

(0.1 * 10 + 0.2 * 10) / 10; // 0.3

完美的解决思路应该是将浮点数拆分成 [Number.MIN_SAFE_INTEGER, Number.MAX_SAFE_INTEGER] 区间内的值再进行计算。

可以参考以下库的实现方式:

参考

bignumber.js
decimal.js
big.js
safe-float
IEEE 754 浮点数标准详解
IEEE 754