在js中使用浮点数运算,有时候不能得到合适的结果。有时候会发现出现**0000005的样子。
解决方案,重写js对浮点型的运算。代码来源于网络
//浮点数加法运算 function FloatAdd(arg1,arg2){ var r1, r2, m, c; try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 } try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)) if (c > 0) { var cm = Math.pow(10, c); if (r1 > r2) { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")) * cm; } else { arg1 = Number(arg1.toString().replace(".", "")) * cm; arg2 = Number(arg2.toString().replace(".", "")); } } else { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")); } return (arg1 + arg2) / m; } //浮点数减法运算 function FloatSub(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //动态控制精度长度 n=(r1>=r2)?r1:r2; return ((arg1*m-arg2*m)/m).toFixed(n); } //浮点数乘法运算 function FloatMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); } //浮点数除法运算 function FloatDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")); r2=Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } }
相关推荐
解决JS浮点数(小数)计算加减乘除的BUG
js中浮点类型数据的计算 7.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数) 我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998 怎么会这样,两个只有一位小数的数字...
在实际开发中,如果对浮点数的精度有较高要求,可以考虑使用这些自定义函数,或者使用专门处理高精度数学运算的库,如JavaScript中的`decimal.js`或`big.js`。这些库提供了更完善的机制来处理浮点数运算的精度问题,...
最近在做项目的时候,涉及到产品价格的计算,经常会出现JS浮点数精度问题,这个问题,对于财务管理系统的开发者来说,是个非常严重的问题(涉及到钱相关的问题都是严重的问题),这里把相关的原因和问题的解决方案...
到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法: 方法一:有js自定义函数 代码如下:[removed] //加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会...
JavaScript中的浮点数运算处理是开发者常常遇到的问题,由于JavaScript的内部表示机制,浮点数运算可能会出现不精确的情况,导致结果与预期不符。本文将深入探讨这个问题,并提供两种解决方案。 首先,我们要理解...
本文将详细介绍如何解决JavaScript中的浮点型运算BUG,并提供一些实用的函数来实现更精确的计算。 首先,我们要理解JavaScript中的浮点数运算误差。在计算机内部,浮点数是以二进制形式存储的,但不是所有十进制...
JavaScript中的浮点数精度问题是由于IEEE-754标准的二进制浮点数表示法导致的,这种表示法无法准确表示所有十进制小数,特别是那些有无限循环二进制小数位的数值,例如0.1。在JavaScript中,所有的数字都以64位双...
通过这样的配置和使用方式,Vue项目中的计算bug问题能得到有效解决,特别是在处理需要高精度运算的场景下,Math.js能提供可靠且精确的结果。记得在使用Math.js进行计算时,注意数据类型的转换,避免因为JavaScript的...
在 JavaScript 中,对浮点数的运算可能会出现精度问题,例如 `37.5*5.5` 的结果可能不是期待的 `206.08`,而是 `206.08499999999998`。这是因为 JavaScript 浮点运算的 Bug。 解决方法: 1. 重新编写浮点运算函数 ...
查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。 现在有两种解决方法, 第一种
总的来说,JavaScript中的浮点数计算需要注意精度问题,`toFixed()` 虽然提供了格式化功能,但在特定情况下可能会产生不一致的结果。通过理解其背后的银行家舍入法以及可能的误差源,我们可以编写自定义的解决方案来...
曾经项目用到过的,之前在网上找到此代码,但在特定条件下除法和加法运算依然会出现BUG个人对此稍作优化 代码如下://除法函数,用来得到精确的除法结果//说明:javascript的除法结果会有误差,在两个浮点数相除的...
我Google了一下,发现原来这是JavaScript浮点运算的一个bug。 比如:7*0.8 JavaScript算出来就是:5.6000000000000005 解决方法:网上找到了一些解决办法,就是重新写了一些浮点运算的函数。 下面就把这些方法摘录...
因此,使用`parseFloat()`或者使用专门处理大数和精确计算的库(如`decimal.js`)可能是更好的选择。此外,使用`toFixed(n)`可以用来固定小数点后的位数,以确保显示的数值是准确的。 总的来说,理解`parseInt()`...
由于JavaScript中的数字是以IEEE 754标准的双精度64位浮点数来表示的,这就意味着它可以精确地表示的整数范围大约在-***到***之间。当超出这个范围或进行一些特殊的小数运算时,就会出现精度丢失的问题。 首先,...
3. **精度控制**:考虑到金融计算中对精度的高要求,`walletjs` 提供了精准的浮点数处理,避免了JavaScript中浮点数运算可能导致的误差。 4. **加减乘除运算**:支持基本的数学运算,如加法、减法、乘法和除法,...