JavaScript小数运算出现多位的解决办法
在开发JS过程中,会经常遇到两个小数相运算的情况,但是运算结果却与预期不同,调试一下发现计算结果竟然有那么长一串尾巴。
先看几个例子,在Chrome控制台测试结果如下:
产生原因:
JavaScript对小数运算会先转成二进制,运算完毕再转回十进制,过程中会有丢失,不过不是所有的小数间运算会有这个问题。
解决办法:
一、先把需要运算的小数扩大成整数,运算后在缩小相同倍数。
例如:0.1+0.2 写成 (0.1*10+0.2*10)/10 结果:0.3
注意:type 为 number
二、使用toFixed()
例如:var a = 0.1+0.2 写成 a.toFixed(1) 结果:"0.3"
a.toFixed(2) 结果:"0.30"
注意:type 为 string
两种解决方案得到的结果类型不同,第二种会强制保留n位,根据实际需要选择。 ———————————————— 版权声明:本文为博主「Yeomer」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。 原文链接:https://blog.csdn.net/Yeomer/article/details/79582815