`
lxbfly
  • 浏览: 38888 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

JavaScript浮点數运算的问题

阅读更多

遇到個js浮點數運算,結果的精確位數過長的問題,下面是在網上查找的解決方法,供大家一起學習和參考。

问题:

  37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)
  我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998
  怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来。
  我Google了一下,发现原来这是JavaScript浮点运算的一个bug。
  比如:7*0.8 JavaScript算出来就是:5.6000000000000005

解决方法:网上找到了一些解决办法,就是重新写了一些浮点运算的函数。
  下面就把这些方法摘录下来,以供遇到同样问题的朋友参考:
 程序代码
//除法函数,用来得到精确的除法结果
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精确结果
function accDiv(arg1,arg2){
  var t1=0,t2=0,r1,r2;
  try{t1=arg1.toString().split(".")[1].length}catch(e){}
  try{t2=arg2.toString().split(".")[1].length}catch(e){}
  with(Math){
  r1=Number(arg1.toString().replace(".",""))
  r2=Number(arg2.toString().replace(".",""))
  return (r1/r2)*pow(10,t2-t1);
  }
}

//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
  return accDiv(this, arg);
}

//乘法函数,用来得到精确的乘法结果
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
  var m=0,s1=arg1.toString(),s2=arg2.toString();
  try{m+=s1.split(".")[1].length}catch(e){}
  try{m+=s2.split(".")[1].length}catch(e){}
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}

//给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
  return accMul(arg, this);
}

//加法函数,用来得到精确的加法结果
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精确结果
function accAdd(arg1,arg2){
  var r1,r2,m;
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
  m=Math.pow(10,Math.max(r1,r2))
  return (arg1*m+arg2*m)/m
}

//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
  return accAdd(arg,this);
}

 

//减法函数,用来得到精确的减法结果 
//说明:javascript的减法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。 
//调用:accSubtr(arg1,arg2) 
//返回值:arg1减去arg2的精确结果 
function accSubtr(arg1,arg2){ 
var r1,r2,m,n; 
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
m=Math.pow(10,Math.max(r1,r2)); 
//动态控制精度长度 
n=(r1>=r2)?r1:r2; 
return ((arg1*m-arg2*m)/m).toFixed(n); 

//给Number类型增加一个subtr 方法,调用起来更加方便。 
Number.prototype.subtr = function (arg){ 
return accSubtr(arg,this); 


  在你要用的地方包含这些函数,然后调用它来计算就可以了。
  比如你要计算:7*0.8 ,则改成 (7).mul(8)  
  其它运算类似,就可以得到比较精确的结果。

分享到:
评论

相关推荐

    javascript 浮点数运算

    Javascript 和大部分语言一样在浮点数运算时,经常出现精度丢失的问题,由于现在的大量Web项目经常涉及到货币计算或数学高级计算,此插件提供简单浮点运算,浮点存储格式符合IEEE754计算机

    JavaScript 浮点数运算 精度问题

    在JavaScript中,浮点数运算时出现的精度问题是一个常见的编程挑战。这是因为JavaScript遵循IEEE 754标准来表示和处理浮点数,该标准规定了二进制浮点数的存储方式,导致在进行某些计算时会出现看似不准确的结果。...

    详解JavaScript 浮点数运算的精度问题

    JavaScript中的浮点数运算精度问题是一个常见的编程挑战,由于JavaScript中的数字是以64位浮点数格式存储,根据IEEE 754标准,这导致在处理浮点数时会出现一些不直观的结果。以下是对这个问题的深入解析。 浮点数...

    js 浮点数加法运算

    javascript浮点数加法运算精确计算方法,能够有效避免无限循环小数的产生

    Javascript 浮点数精确计算

    1. **四舍五入**:在进行浮点数运算时,可以设定一定的精度,当结果接近这个精度时进行四舍五入,以达到近似精确的效果。例如,使用`Math.round()`函数或者自定义函数来处理。 2. **使用字符串**:将浮点数转换为...

    解决js浮点数运算的精度问题

    在javascript中进行运算的时候经常会出现浮点数的问题,导致运算结果不准确 比如:0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下: demo .num-tags, .total-tag { text-align: center; } i { ...

    解决javascript中的浮点数计算不精确问题

    在JavaScript编程中,...理解JavaScript浮点数计算的局限性并采用适当的策略,可以有效地应对和预防这类问题,保证代码的准确性和可靠性。在开发过程中,始终要对浮点数的运算结果保持警惕,并进行适当的验证和处理。

    JS浮点数字操作插件floatOPS.js

    在JavaScript编程中,...总结起来,floatOPS.js是一个专注于解决JavaScript中浮点数运算精度问题的插件,通过提供加减乘除四个方法,确保了在进行浮点数运算时的精度,对于需要精确计算的场景具有很高的实用价值。

    JavaScript浮点数及运算精度调整详解

    JavaScript中的浮点数精度问题是由于IEEE-754标准的二进制浮点数表示法导致的,这种表示法无法准确表示所有十进制小数,特别是那些有无限循环二进制小数位的数值,例如0.1。在JavaScript中,所有的数字都以64位双...

    详解JS-- 浮点数运算处理

    JavaScript中的浮点数运算处理是开发者常常遇到的问题,由于JavaScript的内部表示机制,浮点数运算可能会出现不精确的情况,导致结果与预期不符。本文将深入探讨这个问题,并提供两种解决方案。 首先,我们要理解...

    JS浮点数运算结果不精确的Bug解决

    JavaScript中的浮点数运算在某些情况下可能会导致不精确的结果,这是由于其内部处理机制和IEEE-754标准的特性所致。在JavaScript中,所有的数字都以Number类型存在,本质上是按照IEEE-754标准的双精度浮点数(double...

    使用Vue.js及Element编写的精度浮点运算计算器源码(打开运行)

    由于javascript的浮点运算是不精确的(对于大多数编程语言都是这样),此程序使用整数来代替浮点数进行运算,最后再转化为浮点数,可以实现对设置范围内(运算范围在程序中为自定义变量range)的浮点运算实现精度...

    解决JS浮点数运算出现Bug的方法

    解决JS浮点数运算出现Bug的方法 浮点数运算是一个基本的数学操作,在编程...浮点数运算_bug_是一个普遍存在的问题,但通过使用这些方法,我们可以解决这个问题,确保浮点数运算的准确性,从而提高编程的效率和可靠性。

    深化理解JavaScript中的浮点数_.docx

    4. 浮点数运算存在精度问题,可能导致不精确的结果。 5. 当关心精度时,可以通过转换为整数运算来减少精度损失。 理解这些要点有助于在编写JavaScript代码时更好地处理浮点数,避免不必要的错误和精度问题。

    Javascript浮点数乘积运算出现多位小数的解决方法

    在使用Javascript进行数值运算时,常常会遇到浮点数乘积运算结果有多位小数的问题。这个问题主要是因为Javascript在内部处理浮点数时,并不是以十进制形式存储,而是转换成二进制形式进行运算。由于二进制对于某些十...

    详解JS– 浮点数运算处理

    总的来说,JavaScript中的浮点数运算误差主要源于其内部的二进制表示方式,而通过限制小数位数、转换为整数运算或者使用自定义库,可以一定程度上解决这个问题。在实际应用中,应根据项目需求选择合适的策略,以确保...

Global site tag (gtag.js) - Google Analytics