今天花了一整天的时间复习二进制相关知识,在这里写下这篇blog作为总结!
为什么“0.1+0.2=0.30000000000000004”?
首先声明这不是bug,原因在与十进制到二进制的转换导致的精度问题!
其次这几乎出现在很多的编程语言中:C/C++,Java,Javascript中,准确的说:“使用了IEEE 754浮点数格式”来存储浮点类型(float 32,double 64)的任何编程语言都有这个问题!
简要介绍下IEEE 754浮点格式:它用科学记数法以底数为2的小数来表示浮点数。IEEE浮点数(共32位)用1位表示数字符号,用8为表示指数,用23为来表示尾数(即小数部分)。此处指数用移码存储,尾数则是原码(没有符号位)。之所以用移码是因为移码的负数的符号位为0,这可以保证浮点数0的所有位都是0。
双精度浮点数(64位),使用1为符号位、11位指数位、52位尾数位来表示。
因为科学记数法有很多种方式来表示给定的数字,所以要规范化浮点数,以便用底数为2并且小数点左边为1的小数来表示(注意是二进制的,所以只要不为0则一定有一位为1),按照需要调节指数就可以得到所需的数字。
例如:十进制的1.25 => 二进制的1.01 => 则存储时指数为0、尾数为1.01、符号位为0.
(十进制转二进制)
回到开头,为什么“0.1+0.2=0.30000000000000004”?首先声明这是javascript语言计算的结果(注意Javascript的数字类型是以64位的IEEE 754格式存储的)。
正如同十进制无法精确表示1/3(0.33333…)一样,二进制也有无法精确表示的值。例如1/10。
64位浮点数情况下:
十进制0.1
=> 二进制0.00011001100110011…(循环0011)
=>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-4(二进制移码为00000000010),符号位为0
=> 存储为:0 00000000100 10011001100110011…11001
=> 因为尾数最多52位,所以实际存储的值为0.00011001100110011001100110011001100110011001100110011001
十进制0.2
=> 二进制0.0011001100110011…(循环0011)
=>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-3(二进制移码为00000000011),符号位为0
=> 存储为:0 00000000011 10011001100110011…11001
因为尾数最多52位,所以实际存储的值为0.00110011001100110011001100110011001100110011001100110011
0.00011001100110011001100110011001100110011001100110011001
+ 0.00110011001100110011001100110011001100110011001100110011
= 0.01001100110011001100110011001100110011001100110011001100
转换成10进制之后得到:0.30000000000000004!
浮点数中的特殊数字
除了一般范围内的数字之外,还有一些特殊数字:无穷大、负无穷大、-0和NaN(“代表不是数字”)。造成了如下一些特殊情况:
public class FloatTest {
public static void main(String[] args) {
System.out.println(0.1f+0.2f); //0.3
System.out.println(0.1d+0.2d); //0.30000000000000004
System.out.println(Math.sqrt(-1.0)); //NaN
System.out.println(0.0 / 0.0);//NaN
System.out.println(1.0 / 0.0);//Infinity
System.out.println(-1.0 / 0.0);//-Infinity
System.out.println(0.0 / 0.0 + 1.0);//NaN + 1.0 = NaN
System.out.println(1.0 / 0.0 + 1.0);//无穷大 + 1.0 = Infinity
System.out.println(1.0 / 0.0 + 1.0 / 0.0);//无穷大 + 无穷大 = Infinity
System.out.println(0.0 / 0.0 > 1.0);//NaN > 1.0 = false
System.out.println(0.0 / 0.0 == 1.0);//NaN == 1.0 = false
System.out.println(0.0 / 0.0 < 1.0);//NaN < 1.0 = false
System.out.println(0.0 / 0.0 == 0.0 / 0.0);//NaN == NaN = false
System.out.println(0.0 == -0.01); //false
}
}
更精确的计算
既然一般的浮点数计算有这么多问题,那么如何实现更精确的计算呢?
Java中提供了BigDecimal类实现基于十进制的浮点数计算。
在Javascript 2(目前浏览器不支持)中提供一种use decimal;实现十进制浮点数计算:
{
use decimal;
var a = 0.1; // a is a decimal
var b = 0.2; // b is a decimal
var c = a + b; // c is a decimal (0.3)
}
var d = 0.1 + 0.2; // d is a double (0.30000000000000004)
var a = 0.1m; // a is a decimal
var b = 0.2m; // b is a decimal
var c = a + b; // c == 0.3m更详细的JS的十进制计算方法。
C#也支持如上的m操作符实现十进制浮点数计算。
分享到:
相关推荐
console.log(0.1+0.2===0.3)// true or false?? 在正常的数学逻辑思维中,0.1+0.2=0.3这个逻辑是正确的,但是在JavaScript中0.1+0.2!==0.3,这是为什么呢?这个问题也会偶尔被用来当做面试题来考查面试者对...
涉及面试题:为什么 0.1 + 0.2 != 0.3?如何解决这个问题? 原因,因为 JS 采用 IEEE 754双精度版本(64位),并且只要采用 IEEE 754的语言都有该问题 我们都知道计算机是通过二进制来存储东西的,那么 0.1 在二进制...
资源来自pypi官网。 资源全名:dfclean-0.1.0.2.tar.gz
资源分类:Python库 所属语言:Python 资源全名:kinliuren-0.1.0.2.tar.gz 资源来源:官方 安装方法:https://lanzao.blog.csdn.net/article/details/101784059
在JavaScript中,0.1 + 0.2 不精确等于 0.3 是一个常见的面试问题,涉及到浮点数在计算机中的表示与计算。这个问题源于浮点数在二进制系统下的表示方式以及IEEE 754标准。下面将详细解释这一现象的原因以及相关的...
《PyPI官网下载 | eems-0.1.0.2b1.tar.gz:深入了解Python库与云原生技术》 PyPI(Python Package Index)是Python开发者们分享和获取软件包的重要平台,它提供了丰富的Python库,方便用户进行项目开发。在本篇文章...
谷歌生成二维码插件qrgo_0.1.0.2.crx,可以根据输入的文字快速生成二维码。平时想通过电脑向手机传说简短文字时可以通过这个插件生成二维码之后,通过手机扫一扫,识别内容。
0.1 * 0.2 = 0.02 0.28 * 100 = 28 0.01 * 0.1 = 0.001 1.234 * 100 = 123.4 123.4 ÷ 10 = 12.34 12.34 * 1000 = 12340 12340 ÷ 100 = 123.4 在处理乘法运算时,乘法分配律、乘法交换律和乘法结合律可以简化计算...
×6.3×3.92+(0.0965+0.2×0.0174)×1.4×3.92=3.57(0.0285+0.2×0.0136) ×6.3×3.92+(0.0376+0.2×0.0196)×1.4×3.92=2.14(0.0246+0.2×0.0156) ×6.3×3.92+(0.0225+0.2×0.0255)×1.4×3.92=2.32(0.0235+0.2×0...
44. 0.1×0.2 = 0.02 45. 3.57×5 = 17.85 46. 4.2×0.1 = 0.42 47. 99×0.35 = 34.65 48. 0.05×0.8 = 0.04 49. 1.23×3 = 3.69 50. 0.36×12 = 4.32 51. 7.5×2.5×4 = 75 52. 1.7×0.43 = 0.731 53. 1.2×0.4 = ...
- 0.45×12×0.2 = 1.08 - 6.2×2.1 - 2.1 = 12.6 - 2.1 = 10.5 - 2.8 - 2.8×0.15 = 2.8 - 0.42 = 2.38 - 2.8×1.43 + 0.57 = 3.964 + 0.57 = 4.534 - 10 - 6.06 + 8.5 = 3.94 + 8.5 = 12.44 - 6×0.25×1.85...
python编写计算器,供大家参考,具体内容如下 ...因此计算机会出现 0.1+0.2=0.3000000000004 的现象 能对数据进行截断处理,可以解决问题,但精度丧失。 (此计算机没有进行截断处理) import tkinte
Oracle Linux 6.1 + Oracle 11.2.0.1 RAC + RAW安装文档.pdf
skyeye-0.1.bin.cygwin.1.3.17.tar.bz2 skyeye二进制文件 用于windows下仿真
ojdbc7的两个版本(12.1.0.2、12.2.0.1),下载后进行maven安装 mvn命令:mvn install:install-file -DgroupId=com.oracle -DartifactId=ojdbc7 -Dversion=12.2.0.1 -Dpackaging=jar -Dfile=D:\***\***\ojdbc7-12.2....
P(X_2=2) = 0.2*0.27 + 0.2*0.27 + 0.6*0.11 = 0.234 P(X_2=3) = 0.2*0.62 + 0.2*0.62 + 0.6*0.11 = 0.330 所以,经过两步转移后的绝对分布为(0.436, 0.234, 0.330)。 以上就是随机过程的一些基本概念和问题解答,...
资源分类:Python库 所属语言:Python 资源全名:lins_dbmanagers-0.1.0.2.tar.gz 资源来源:官方 安装方法:https://lanzao.blog.csdn.net/article/details/101784059
apr-util-1.3.9-3.el6_0.1.x86_64.rpm apr-util-1.3.9-3.el6_0.1.x86_64.rpm