2022-12-28
阅读:81
0.1 + 0.2 = 0.3 这个等式的成立看起来是理所当然的,然而事实并非如此,这个属于JS运算中精度的缺失问题,所以0.1+0.2 != 0.3
因为计算机存储数据时,是以二进制(10101010)形式进行存储的。所以计算机计算0.1+0.2的时候,实际上是计算的两个数的二进制的和。
//0.1转为二进制
0.0 001100110011001100110011001100110011001100110011001101 (0011 无限循环)
// 0.2 转为二进制
0.001100110011001100110011001100110011001100110011001101 (0011 无限循环)
这两个数的二进制都是无限循环的数。JavaScript使用Number类型表示数字(整数和浮点数),它的实现遵循IEEE754标准,在 IEEE754 标准中常见的浮点数数值表示有:单精准度(32位)和双精准度(64位),而JS采用的是双精度版本,也就是通过64位来表示一个数字;在二进制科学表示法中,双精度浮点数的小数部分最多只能保留52位,再加上前面的1,其实就是保留53位有效数字,剩余的舍去,遵从“0舍1入”的原则。根据这个原则,0.1和0.2的二进制数相加,再转化为十进制数就是:0.30000000000000004
第三方类库
decimal.js
//引入
npm install --save decimal.js
//使用
import Decimal from "decimal.js"
let a = 10.231;
let b = 5.242;
//加法
let c = Decimal(a).add(b);
//减法
let d = Decimal(a).sub(b);
//乘法
let e = Decimal(a).mul(b);
//除法
let f = Decimal(a).div(b);
big.js
bignumber.js