`
月亮不懂夜的黑
  • 浏览: 154153 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

js对浮点数计算的bug

    博客分类:
  • js
js 
阅读更多

在js中使用浮点数运算,有时候不能得到合适的结果。有时候会发现出现**0000005的样子。

解决方案,重写js对浮点型的运算。代码来源于网络

//浮点数加法运算
function FloatAdd(arg1,arg2){
	var r1, r2, m, c;
        try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
        try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
        c = Math.abs(r1 - r2);
        m = Math.pow(10, Math.max(r1, r2))
        if (c > 0) {
            var cm = Math.pow(10, c);
            if (r1 > r2) {
                arg1 = Number(arg1.toString().replace(".", ""));
                arg2 = Number(arg2.toString().replace(".", "")) * cm;
            }
            else {
                arg1 = Number(arg1.toString().replace(".", "")) * cm;
                arg2 = Number(arg2.toString().replace(".", ""));
            }
        }
        else {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", ""));
        }
        return (arg1 + arg2) / m;
}
 
//浮点数减法运算
function FloatSub(arg1,arg2){
	var r1,r2,m,n;
	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
	m=Math.pow(10,Math.max(r1,r2));
	//动态控制精度长度
	n=(r1>=r2)?r1:r2;
	return ((arg1*m-arg2*m)/m).toFixed(n);
}
 
//浮点数乘法运算
function FloatMul(arg1,arg2)
{
	var m=0,s1=arg1.toString(),s2=arg2.toString();
	try{m+=s1.split(".")[1].length}catch(e){}
	try{m+=s2.split(".")[1].length}catch(e){}
	return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
}
 
 
//浮点数除法运算
function FloatDiv(arg1,arg2){
	var t1=0,t2=0,r1,r2;
	try{t1=arg1.toString().split(".")[1].length}catch(e){}
	try{t2=arg2.toString().split(".")[1].length}catch(e){}
	with(Math){
		r1=Number(arg1.toString().replace(".",""));
		r2=Number(arg2.toString().replace(".",""));
		return (r1/r2)*pow(10,t2-t1);
	}
}   

 

分享到:
评论
1 楼 BuN_Ny 2013-11-28  
请不要随意使用Bug这个词,否则有此Bug的不止JS语言了。

相关推荐

    解决JS浮点数(小数)计算加减乘除的BUG

    解决JS浮点数(小数)计算加减乘除的BUG

    js中浮点类型数据的计算

    js中浮点类型数据的计算 7.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)  我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998  怎么会这样,两个只有一位小数的数字...

    解决JS浮点数运算出现Bug的方法

    在实际开发中,如果对浮点数的精度有较高要求,可以考虑使用这些自定义函数,或者使用专门处理高精度数学运算的库,如JavaScript中的`decimal.js`或`big.js`。这些库提供了更完善的机制来处理浮点数运算的精度问题,...

    JS浮点数运算结果不精确的Bug解决

    最近在做项目的时候,涉及到产品价格的计算,经常会出现JS浮点数精度问题,这个问题,对于财务管理系统的开发者来说,是个非常严重的问题(涉及到钱相关的问题都是严重的问题),这里把相关的原因和问题的解决方案...

    浅析js中的浮点型运算问题

    到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法: 方法一:有js自定义函数 代码如下:[removed] //加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会...

    详解JS-- 浮点数运算处理

    JavaScript中的浮点数运算处理是开发者常常遇到的问题,由于JavaScript的内部表示机制,浮点数运算可能会出现不精确的情况,导致结果与预期不符。本文将深入探讨这个问题,并提供两种解决方案。 首先,我们要理解...

    js中浮点型运算BUG的解决方法说明.docx

    本文将详细介绍如何解决JavaScript中的浮点型运算BUG,并提供一些实用的函数来实现更精确的计算。 首先,我们要理解JavaScript中的浮点数运算误差。在计算机内部,浮点数是以二进制形式存储的,但不是所有十进制...

    JavaScript浮点数及运算精度调整详解

    JavaScript中的浮点数精度问题是由于IEEE-754标准的二进制浮点数表示法导致的,这种表示法无法准确表示所有十进制小数,特别是那些有无限循环二进制小数位的数值,例如0.1。在JavaScript中,所有的数字都以64位双...

    在Vue项目中安装配置Math.js的方法解决计算bug问题

    通过这样的配置和使用方式,Vue项目中的计算bug问题能得到有效解决,特别是在处理需要高精度运算的场景下,Math.js能提供可靠且精确的结果。记得在使用Math.js进行计算时,注意数据类型的转换,避免因为JavaScript的...

    js中Number数字数值运算后值不对的解决方法.docx

    在 JavaScript 中,对浮点数的运算可能会出现精度问题,例如 `37.5*5.5` 的结果可能不是期待的 `206.08`,而是 `206.08499999999998`。这是因为 JavaScript 浮点运算的 Bug。 解决方法: 1. 重新编写浮点运算函数 ...

    js小数计算小数点后显示多位小数的实现方法

    查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。 现在有两种解决方法, 第一种

    js中浮点型运算BUG的解决方法说明

    曾经项目用到过的,之前在网上找到此代码,但在特定条件下除法和加法运算依然会出现BUG个人对此稍作优化 代码如下://除法函数,用来得到精确的除法结果//说明:javascript的除法结果会有误差,在两个浮点数相除的...

    Javascript 函数parseInt()转换时出现bug问题

    因此,使用`parseFloat()`或者使用专门处理大数和精确计算的库(如`decimal.js`)可能是更好的选择。此外,使用`toFixed(n)`可以用来固定小数点后的位数,以确保显示的数值是准确的。 总的来说,理解`parseInt()`...

    js中Number数字数值运算后值不对的解决方法

    我Google了一下,发现原来这是JavaScript浮点运算的一个bug。 比如:7*0.8 JavaScript算出来就是:5.6000000000000005 解决方法:网上找到了一些解决办法,就是重新写了一些浮点运算的函数。 下面就把这些方法摘录...

    javascript解决小数的加减乘除精度丢失的方案

    由于JavaScript中的数字是以IEEE 754标准的双精度64位浮点数来表示的,这就意味着它可以精确地表示的整数范围大约在-***到***之间。当超出这个范围或进行一些特殊的小数运算时,就会出现精度丢失的问题。 首先,...

    walletjs帮你轻松处理货币money的JS库

    3. **精度控制**:考虑到金融计算中对精度的高要求,`walletjs` 提供了精准的浮点数处理,避免了JavaScript中浮点数运算可能导致的误差。 4. **加减乘除运算**:支持基本的数学运算,如加法、减法、乘法和除法,...

Global site tag (gtag.js) - Google Analytics