`
Copperfield
  • 浏览: 260199 次
  • 性别: Icon_minigender_1
  • 来自: 上海
博客专栏
C407adc3-512e-3a03-a056-ce4607c3a3c0
java并发编程陷阱
浏览量:25137
社区版块
存档分类

Js中parseFloat()方法所产生的精度不一致问题

    博客分类:
  • js
阅读更多


<script language="javascript">
var a = "0.11";
var b = "0.2801";
var c = "1.002";
var sum1 = parseFloat(a)+parseFloat(b)+parseFloat(c);
var sum2 = (parseFloat(a)+parseFloat(b)+parseFloat(c)).toFixed(4)
document.write("a+b+c="+sum1);
document.write("<br/>")
document.write("a+b+c="+sum2)
</script>

a,b,c相加本来为1.3921,但sum1得出的结果为:1.3921000000000001,
显然不正确,通过toFixed(n)方法修正后(n是精确的小数点位数),得到正确结果。
例如:parseFloat(1.392143).toFixed(3)=1.392;

分享到:
评论
1 楼 天紫眷 2011-12-02  
谢谢,帮了我大忙了!!!

相关推荐

    Javascript 浮点运算精度问题分析与解决

    JavaScript中的浮点运算精度问题是由浮点数在计算机内部的二进制表示所导致的。通过理解和使用`toFixed()`方法和自定义的数值比较函数,可以在很大程度上解决这一问题,从而使得数值比较的结果可靠和准确。

    JavaScript语言教程&案例&相关项目资源

    - **问题描述**:在使用JavaScript进行浮点数运算时,可能会遇到精度丢失的问题,例如`0.1 + 0.2 !== 0.3`。 - **解决方案**: - 使用`toFixed()`方法将结果四舍五入到特定的小数位数。 - 对于金额处理等精确度...

    js奇进偶舍

    “js奇进偶舍”提供了一种灵活的方式来处理浮点数的舍入问题,通过自定义的逻辑,可以有效减少因浮点数运算产生的误差,适用于需要高精度计算的场景。开发者可以根据实际需求调整代码中的细节,以适应不同的业务场景...

    js输出数据精确到小数点后n位代码

    这篇文章将介绍两种在JavaScript中实现小数点后精确到n位的方法,并通过实例演示其使用。 首先,要实现小数点后保留n位数字的功能,我们可以用两种主要的方式:使用`Math.pow()`函数和`toFixed()`方法。 一、使用`...

    JavaScript如何实现对数字保留两位小数一位自动补零

    在实际应用中,这种方法能够很好地解决小数位数不一致的问题,使得数字在展示、计算或存储时具备统一的格式。需要注意的是,由于浮点数运算本身可能存在精度问题,对于特别大或特别小的数字,这种简单的四舍五入方法...

    javascript FormatNumber函数实现方法

    通过这个自定义的`FormatNumber`函数,开发者可以方便地在JavaScript环境中实现与VBScript类似的数字格式化功能,从而确保在前端展示数据时保持一致性。这对于处理金融数据、显示精度要求高的数值或进行数据可视化时...

    js代码-toFixed验证

    在JavaScript编程语言中,`toFixed()` 是一个非常重要的方法,尤其在处理数字精度和格式化输出时。这个方法被用于将数字转换为字符串,并保留指定位数的小数。`toFixed()` 的基本用法是 `number.toFixed(precision)`...

    JavaScript保留两位小数的2个自定义函数

    在JavaScript中,有时我们需要对浮点数进行处理,特别是当涉及到财务计算或数据展示时,保留特定的小数位数是...总之,理解这两个函数的工作原理和差异,可以帮助我们在JavaScript开发中更有效地处理浮点数的精度问题。

    详解html5页面 rem 布局适配方法

    这个版本除了基本的动态计算,还考虑了浏览器的兼容性和精度问题。当实际计算的`font-size`与浏览器计算的结果有较大误差时,会进行二次调整以确保更准确的适配。 ```javascript (function(WIN) { var setFontSize...

Global site tag (gtag.js) - Google Analytics