无语的double精度问题 - Java企业应用 - ITeye博客

`

littcai

浏览: 248196 次
性别:
来自: 无锡

最近访客更多访客>>

ctci21

pdwljhlg

warmsun

tianxiao888

博主相关

博客

微博

相册

收藏

留言

关于我

文章分类

社区版块

存档分类

最新评论

slqprrx：你一个机器上起两个应用输出到两个不同文件试试，同步瞬间卡死你
Log4j的AsyncAppender能否提升性能？
yujian_0524：资源非常好，要是中文就更完美了！！！
MINA-2.0.0-M4 API帮助文档(CHM)
左手打右手： KeepThinking_ 写道要的就是它，英文的，给力！你牛 ...
MINA-2.0.0-M4 API帮助文档(CHM)
yushaoguo333：做的还不错。。。。。。。。。。。。。。。。
MINA-2.0.0-M4 API帮助文档(CHM)
xuyouliang：打开后内容为空白，点什么都没反应
MINA-2.0.0-M4 API帮助文档(CHM)

无语的double精度问题

博客分类：

Java

阅读更多

Double c = 18000000000000000D + 10;
Double d = 18100000000000000D + 10;		
		
System.out.println(c.longValue());
System.out.println(d.longValue());

如上代码，将输出奇怪的结果，对Java 的double和float不抱希望了。而Math.pow()这个方法输出的是double只有dobule型，计算个次方还要我类型转换吗？！看来只能自己写代码实现了

分享到：

Hibernate中ordinal parameter mismatch的 ... | 文件处理中发现JDK的BUG

2009-07-13 17:27
浏览 1460
评论(0)
查看更多

评论

发表评论

您还没有登录,请您登录后再发表评论

相关推荐

Java Double 精度问题总结: ### Java Double 精度问题总结在Java编程语言中，`double` 类型是一种用于表示64位浮点数的原始数据类型。虽然 `double` 提供了相对较高的精度，但在涉及精确数学运算（特别是涉及到小数值）时，由于其内部采用二...

float double精度的详细解释: ### float与double精度详解 #### 一、浮点数的基础概念在计算机科学中，`float` 和 `double` 是两种常用的浮点数类型，它们主要用于处理实数运算。这两种类型的区别主要体现在精度和范围上。 #### 二、浮点数的...

jisuanqi.rar_double精度: 以下将详细讨论double精度问题及其解决方案。首先，double类型的精度来源于其内部存储方式。在二进制表示下，double类型通常按照IEEE 754标准，使用64位（8字节）存储，其中包括1位符号位，11位指数位，以及52位尾...

double类型精度丢失；double转换到64位整数: 然而，由于浮点数的二进制表示方式，当进行某些计算或转换时，可能会出现精度丢失的问题。标题提到的“double类型精度丢失；double转换到64位整数”就涉及到这一关键概念。精度丢失通常发生在以下几种情况： 1. *...

C#中处理多位小数精度的精度问题: 在C#编程中，处理多位小数的精度问题是一个常见的挑战。这主要涉及到浮点数和定点数的数据类型，以及它们在数学运算中可能出现的精度损失。本文将深入探讨这个问题，并提供解决方案。首先，让我们理解为何会出现...

计算机精度问题(Double): 本文主要探讨的是“计算机精度问题”，特别是关于双精度浮点数（Double）的表示和计算中可能出现的问题。双精度浮点数（Double）在计算机中通常按照IEEE 754标准进行存储和运算，它提供了大约15到16位的有效数字，...

解决java数值范围以及float与double精度丢失的问题: 下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。一、Java中的数值范围 Java中的基本数据类型有多种，包括整数类型（int、long）、浮点数类型（float、double）。每种类型...

详解iOS之关于double/float数据计算精度问题: iOS 之关于 double/float 数据计算精度问题详解 iOS 开发中，double 和 float 数据类型的计算精度问题是一个常见的问题。本篇文章将详细介绍 iOS 中 double/float 数据计算精度问题的根源、解决方案和高精度计算...

float与double的范围和精度: float与double的范围和精度 float和double是两种常用的浮点数类型，它们的范围和精度是由其内部存储格式决定的。了解float和double的范围和精度对于编程和数据处理非常重要。 1. 范围 float和double的范围是由...

java_double_精度: Java 双精度浮点数精度问题解决方案 Java 中的双精度浮点数（double）类型在进行运算时经常出现精度丢失的问题，这是由于双精度浮点数在计算机内部的存储方式所致。双精度浮点数使用 64 位二进制数来存储小数，然而...

Java 基本类型double精度计算工具: 该工具用户进行double类型的精度计算，包含加法、减法、乘法、除法、精确点计算、小数点计算，限制小数点后数字

关于浮点数的精度问题: "关于浮点数的精度问题" 浮点数精度问题是一个经典的问题，对于了解和学习C语言有一定帮助。浮点数的精度问题是由于计算机对浮点数的存储方式和表示方法所致。 IEEE754 的浮点数存储格式对浮点数的表示方法进行了...

double 计算过程出现的误差: 尽管`double`类型的精度较高，但在某些情况下仍然会出现精度损失的问题，尤其是在累加等连续计算操作中更为明显。 #### 二、C#中的`double`计算误差示例 ```csharp double d = 0.0; for (int i = 0; i ; i++) { d...

c++ string转换double: `atof` 是 C 语言库中的一个函数，用于将字符串转换为双精度浮点数。需要注意的是，`atof` 不会检查输入字符串的有效性，如果传入的字符串无法被正确解析为一个有效的浮点数，则结果可能是未定义的。 **5. 返回结果...

浮点数精度问题解答——浮点数: 浮点数精度问题在计算机科学中是一个至关重要的概念，尤其对于进行数值计算的开发者来说，理解和掌握浮点数的表示和精度误差至关重要。本文将详细阐述IEEE 754标准，这一标准对浮点数的表示和计算进行了规范，旨在...

float_double存储问题: "float_double存储问题" float 和 double 是 C 语言和 C# 语言中最常用的浮点类型，它们分别使用单精度和双精度来存储浮点数据。 float 数据占用 32bit，而 double 数据占用 64bit。在 IEEE 的规范下，float ...

Java中double类型下出现精度计算错误情况下出力方法: Java中的简单浮点数类型float和double不能够进行运算，因为大多数情况下是正常的，但是偶尔会出现如上所示的问题。这个问题其实不是JAVA的bug，因为计算机本身是二进制的，而浮点数实际上只是个近似值，所以从二进制...

DecimalFormat精度解决，商业运算精度问题: - `BigDecimal(double val)`：通过一个`double`值创建`BigDecimal`对象，但这种方式可能会引入精度问题。 - `BigDecimal(String val)`：推荐使用字符串的方式创建`BigDecimal`对象，以确保精度不丢失。 ```java ...

float和double: 但是，需要注意的是，使用这个方法可能会出现问题，因为double类型的精度问题。例如，new BigDecimal(.1)并不是等于.1，而是等于.1000000000000000055511151231257827021181583404541015625。因此，在商业计算中，...

防止Double加double后形成科学计数法问题: 防止Double加double后形成科学计数法问题

Global site tag (gtag.js) - Google Analytics