`
darklipeng
  • 浏览: 126088 次
  • 性别: Icon_minigender_1
  • 来自: 西安
社区版块
存档分类
最新评论

JS精度运算

 
阅读更多

今天在用JavaScript运算的时候出现了一些问题,后来查了下,原来是JS本身的浮点数运算会有误差造成的。

js的number类型按照 ECMA JavaScript 标准,它的 Number 类型就是 IEEE 754 的双精度数值, 相当于java的double类型。

详细的内容可以参考:

http://forum.eaw.com.cn/thread/10/1

http://blog.csdn.net/xiaocon/archive/2005/09/03/470709.aspx

JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,为了解决浮点数运算不准确的问题,在运算前我们把参加运算的数先升级(10的X的次方)到整数,等运算完后再降级(0.1的X的次方)。现收集并整理贴于此,以备后用。

//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。  
//调用:accAdd(arg1,arg2)  
//返回值:arg1加上arg2的精确结果  
function accAdd(arg1,arg2){  
    var r1,r2,m;  
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
    m=Math.pow(10,Math.max(r1,r2))  
    return (arg1*m+arg2*m)/m  
}  

//给Number类型增加一个add方法,调用起来更加方便。  
Number.prototype.add = function (arg){  
    return accAdd(arg,this);  
}

 


//说明:javascript的减法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。  
//调用:accSub(arg1,arg2)  
//返回值:arg1减上arg2的精确结果  
function accSub(arg1,arg2){      
    return accAdd(arg1,-arg2);  
}  

//给Number类型增加一个sub方法,调用起来更加方便。  
Number.prototype.sub = function (arg){  
    return accSub(this,arg);  
}

//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。  
//调用:accMul(arg1,arg2)  
//返回值:arg1乘以arg2的精确结果  
function accMul(arg1,arg2)  
{  
    var m=0,s1=arg1.toString(),s2=arg2.toString();  
    try{m+=s1.split(".")[1].length}catch(e){}  
    try{m+=s2.split(".")[1].length}catch(e){}  
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)  
}  

//给Number类型增加一个mul方法,调用起来更加方便。  
Number.prototype.mul = function (arg){  
    return accMul(arg, this);  
}


//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。  
//调用:accDiv(arg1,arg2)  
//返回值:arg1除以arg2的精确结果  
function accDiv(arg1,arg2){  
    var t1=0,t2=0,r1,r2;  
    try{t1=arg1.toString().split(".")[1].length}catch(e){}  
    try{t2=arg2.toString().split(".")[1].length}catch(e){}  
    with(Math){  
        r1=Number(arg1.toString().replace(".",""))  
        r2=Number(arg2.toString().replace(".",""))  
        return (r1/r2)*pow(10,t2-t1);  
    }  
}  

//给Number类型增加一个div方法,调用起来更加方便。  
Number.prototype.div = function (arg){  
    return accDiv(this, arg);  
}

 

调用方法:num1.add(num2)

如2.333+3.4 ,则为2.333.add(3.4)

分享到:
评论

相关推荐

    高精度JSBigDecimal运算

    在JavaScript(JS)中,由于其内置的数据类型限制,进行大数或高精度计算时,可能会遇到精度丢失的问题。这主要是因为JavaScript默认使用了浮点数(Number)类型,其精度只能保证到小数点后15位。这对于需要进行财务...

    js算法精度失真问题的解决方案

    在JavaScript中进行数学计算时,经常遇到的一个问题是浮点数运算的精度损失问题。这是因为计算机内部采用二进制形式存储数据,而某些十进制小数在二进制中是无法精确表示的,这导致了在计算过程中可能出现的精度偏差...

    使用Vue.js及Element编写的精度浮点运算计算器源码(打开运行)

    由于javascript的浮点运算是不精确的(对于大多数编程语言都是这样),此程序使用整数来代替浮点数进行运算,最后再转化为浮点数,可以实现对设置范围内(运算范围在程序中为自定义变量range)的浮点运算实现精度...

    js计算精度问题解决方案

    5. **使用固定精度的数字库**:有一些JavaScript库,如`decimal.js`或`bignumber.js`,它们提供了支持任意精度的数字类型,可以在计算过程中保持极高的精度。 6. **利用整数运算**:如果可能,将计算转换为整数运算...

    js Math.js bigNumber可以解决js运算精度丢失问题

    使用示例: math.config({ number:'BigNumber' }) let result=math.parser().eval(a+ "-" + b); //a,b是需要计算的值,中间是运算符

    JS小数加减乘除运算后位数增加的解决方案

    JS小数加减乘除运算后小数点后产生多位数和计算精度损失的解决方案

    JavaScript实现检验除法运算

    此外,JavaScript中的浮点数运算可能会存在精度问题,尤其是在大数除以小数时。虽然JavaScript的Number类型可以表示很大范围的数值,但其精度仅到小数点后16位。因此,在处理高精度计算时,可能需要引入如`BigInt`或...

    js加减乘除丢失精度问题解决方法

    代码如下: /** * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。 * * @param num1加数1 | num2加数2 */ function numAdd(num1, num2) { var baseNum, baseNum1, baseNum2; try { baseNum

    JS精度问题

    JS精度问题,解决了JS加减乘除时候精度错误问题,就是后面带有很多0的问题

    JS浮点数字操作插件floatOPS.js

    在JavaScript编程中,...总结起来,floatOPS.js是一个专注于解决JavaScript中浮点数运算精度问题的插件,通过提供加减乘除四个方法,确保了在进行浮点数运算时的精度,对于需要精确计算的场景具有很高的实用价值。

    解决js浮点数运算的精度问题

    在javascript中进行运算的时候经常会出现浮点数的问题,导致运算结果不准确 比如:0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下: demo .num-tags, .total-tag { text-align: center; } i { ...

    JS精度计算1、转成整数计算再转换成小数,2、toFixed,3、math.js,4、bignumber.js,5、big.js

    `bignumber.js`是一个专门处理大数的JavaScript库,支持任意精度的算术运算。这个库可以创建BigNumber对象,这些对象在进行加、减、乘、除等运算时不会丢失精度。例如,`var x = new BigNumber('...

    解决JS浮点数(小数)计算加减乘除的BUG

    2. **使用库**:有些库如`decimal.js`或`big.js`专门用于处理高精度浮点数计算,它们可以避免JavaScript内置的浮点数精度问题。 3. **整数运算**:对于涉及金钱计算等需要精确结果的场景,可以考虑将数值转换为整数...

    js计算精度

    js计算精度

    main_half_javascript_半精度浮点数_Uint8Array_

    6. **跨平台兼容性**:需要注意的是,虽然JavaScript标准不直接支持半精度浮点数,但现代浏览器和Node.js环境中可以通过自定义函数实现。在不同平台和设备上测试代码,确保其兼容性和正确性。 7. **其他工具和库**...

    JS入门级四则运算

    JS入门级四则运算,仅支持加减乘除,经测试可以计算结果为9位以内的小数的四则运算,失精度的概率小,请留下改进建议

    js中Number数字数值运算后值不对的解决方法.docx

    在 JavaScript 中,对浮点数的运算可能会出现精度问题,例如 `37.5*5.5` 的结果可能不是期待的 `206.08`,而是 `206.08499999999998`。这是因为 JavaScript 浮点运算的 Bug。 解决方法: 1. 重新编写浮点运算函数 ...

    javascript 四则运算精度修正函数代码

    在编写JavaScript代码进行数值计算时,经常会遇到四则运算中精度问题的困扰。这个问题尤其在涉及到浮点数运算时更为明显。浮点数在计算机中是以二进制形式存储的,由于某些小数无法精确用二进制表示,导致了运算结果...

    解析四则运算

    4. **浮点数精度**:虽然浮点数能表示更广泛的数值范围,但它们的精度有限,可能导致看似不正确的结果。例如,`0.1 + 0.2`在某些语言中可能不等于`0.3`,因为浮点数的存储方式导致了微小的误差。 5. **异常处理**:...

    js中小数运算(加、减、乘、除)的问题及一些数学函

    JS 中小数运算(加、减、乘、除)的问题是指在JavaScript中对小数进行加、减、乘、除运算时可能遇到的精度问题。这种问题的产生是由于计算机对浮点数的存储方式和精度的限制。浮点数在计算机中是以二进制形式存储的...

Global site tag (gtag.js) - Google Analytics