JS数字舍入误差及解决办法(必看)

JS数字舍入误差及解决办法(必看)
1。原因:

返回结果是真的。

2、原因:计算机的二进制实现和数量限制不能被限制,像一些无理数不能被限制,如pi,3.1415926…1.3333…js遵循IEEE 754规范,采用双精度存储(双精度),占用64位。

三.解决

(1)固定(),存在兼容性(铬)

(2)一个更健壮的方法(如果数字太大,会出现错误):

整数可以在JS精确数量最大的是Math.pow(2, 53),和小数是9007199254740992,比9007199254740992更大的精度可能会丢失
函数圆(数字,D){

/ /第一步:放大10倍倍数

Num * = math.pow(10,d);

/ / STEP2:民四至五家在圆

Num = math.round(努姆);

步骤:返回到数值,以减少d时间的10倍,并得到最终结果。

返回num / math.round(10,d);

}

console.log(圆(123.456)); / / 123.46

上述数字舍入误差和JS的解决方案是,萧边分享你的内容。我希望能给你一个参考,希望你能支持它。

tag:数字舍入误差必看解决办法电脑软件

相关内容