遇到個js浮點數運算,結果的精確位數過長的問題,下面是在網上查找的解決方法,供大家一起學習和參考。
问题:
37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)
我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998
怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来。
我Google了一下,发现原来这是JavaScript浮点运算的一个bug。
比如:7*0.8 JavaScript算出来就是:5.6000000000000005
解决方法:网上找到了一些解决办法,就是重新写了一些浮点运算的函数。
下面就把这些方法摘录下来,以供遇到同样问题的朋友参考:
程序代码
//除法函数,用来得到精确的除法结果
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精确结果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//乘法函数,用来得到精确的乘法结果
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//加法函数,用来得到精确的加法结果
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
//减法函数,用来得到精确的减法结果
//说明:javascript的减法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。
//调用:accSubtr(arg1,arg2)
//返回值:arg1减去arg2的精确结果
function accSubtr(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
//给Number类型增加一个subtr 方法,调用起来更加方便。
Number.prototype.subtr = function (arg){
return accSubtr(arg,this);
}
在你要用的地方包含这些函数,然后调用它来计算就可以了。
比如你要计算:7*0.8 ,则改成 (7).mul(8)
其它运算类似,就可以得到比较精确的结果。
分享到:
相关推荐
Javascript 和大部分语言一样在浮点数运算时,经常出现精度丢失的问题,由于现在的大量Web项目经常涉及到货币计算或数学高级计算,此插件提供简单浮点运算,浮点存储格式符合IEEE754计算机
在JavaScript中,浮点数运算时出现的精度问题是一个常见的编程挑战。这是因为JavaScript遵循IEEE 754标准来表示和处理浮点数,该标准规定了二进制浮点数的存储方式,导致在进行某些计算时会出现看似不准确的结果。...
JavaScript中的浮点数运算精度问题是一个常见的编程挑战,由于JavaScript中的数字是以64位浮点数格式存储,根据IEEE 754标准,这导致在处理浮点数时会出现一些不直观的结果。以下是对这个问题的深入解析。 浮点数...
javascript浮点数加法运算精确计算方法,能够有效避免无限循环小数的产生
1. **四舍五入**:在进行浮点数运算时,可以设定一定的精度,当结果接近这个精度时进行四舍五入,以达到近似精确的效果。例如,使用`Math.round()`函数或者自定义函数来处理。 2. **使用字符串**:将浮点数转换为...
在javascript中进行运算的时候经常会出现浮点数的问题,导致运算结果不准确 比如:0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下: demo .num-tags, .total-tag { text-align: center; } i { ...
在JavaScript编程中,...理解JavaScript浮点数计算的局限性并采用适当的策略,可以有效地应对和预防这类问题,保证代码的准确性和可靠性。在开发过程中,始终要对浮点数的运算结果保持警惕,并进行适当的验证和处理。
在JavaScript编程中,...总结起来,floatOPS.js是一个专注于解决JavaScript中浮点数运算精度问题的插件,通过提供加减乘除四个方法,确保了在进行浮点数运算时的精度,对于需要精确计算的场景具有很高的实用价值。
JavaScript中的浮点数精度问题是由于IEEE-754标准的二进制浮点数表示法导致的,这种表示法无法准确表示所有十进制小数,特别是那些有无限循环二进制小数位的数值,例如0.1。在JavaScript中,所有的数字都以64位双...
JavaScript中的浮点数运算处理是开发者常常遇到的问题,由于JavaScript的内部表示机制,浮点数运算可能会出现不精确的情况,导致结果与预期不符。本文将深入探讨这个问题,并提供两种解决方案。 首先,我们要理解...
JavaScript中的浮点数运算在某些情况下可能会导致不精确的结果,这是由于其内部处理机制和IEEE-754标准的特性所致。在JavaScript中,所有的数字都以Number类型存在,本质上是按照IEEE-754标准的双精度浮点数(double...
由于javascript的浮点运算是不精确的(对于大多数编程语言都是这样),此程序使用整数来代替浮点数进行运算,最后再转化为浮点数,可以实现对设置范围内(运算范围在程序中为自定义变量range)的浮点运算实现精度...
解决JS浮点数运算出现Bug的方法 浮点数运算是一个基本的数学操作,在编程...浮点数运算_bug_是一个普遍存在的问题,但通过使用这些方法,我们可以解决这个问题,确保浮点数运算的准确性,从而提高编程的效率和可靠性。
4. 浮点数运算存在精度问题,可能导致不精确的结果。 5. 当关心精度时,可以通过转换为整数运算来减少精度损失。 理解这些要点有助于在编写JavaScript代码时更好地处理浮点数,避免不必要的错误和精度问题。
在使用Javascript进行数值运算时,常常会遇到浮点数乘积运算结果有多位小数的问题。这个问题主要是因为Javascript在内部处理浮点数时,并不是以十进制形式存储,而是转换成二进制形式进行运算。由于二进制对于某些十...
总的来说,JavaScript中的浮点数运算误差主要源于其内部的二进制表示方式,而通过限制小数位数、转换为整数运算或者使用自定义库,可以一定程度上解决这个问题。在实际应用中,应根据项目需求选择合适的策略,以确保...