计算机精度问题(Double)

计算机精度问题(Double)

 

1.1.我们用计算器10-9.88应该等于0.12，但是如果在计算机里，两个Double相减为0.11999999999999922

System.out.println(10-9.88);//输出0.11999999999999922

1.2.如何解决Double相减精度问题，想法是：先乘1000 取整，然后再除1000取整(100也可以，看你的精度范围)

System.out.println((10*1000-(int)(9.88*1000))/1000d); //输出0.12，正确

 

2.1我们用计算器20*0.988应该等于19.76，但是如果在计算机里，两个Double相减为19.759999999999998

System.out.println(20*0.988); //输出:19.759999999999998

2.2.如何解决

System.out.println((20*(int)(0.988*1000))/1000d);//输出19.76,计算正确

 

###.精度问题，一般体现的除法、减法上，乘、加一般没问题

 

 

###我的应用(详细见:DoubleConvert.zip)

System.out.println(5-4.8);//double精度问题
System.out.println((5*1000-(4.8234*1000))/1000d);//不加int,不理想
System.out.println((5*1000-(int)(4.8234*1000))/1000d);//double精度解决办法

 

 

 

 

 

评论

1 楼 daywbdb 2012-07-05  

为什么大家这么多都喜欢用这种方法来计算，而不用BigDecimal来计算呢？