`
zl198751
  • 浏览: 278725 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

关于Double, Float的进度问题

UP 
阅读更多
Double,Float都是由2进制数表示10进制的数,所以很多10进制数表示不完全,如0.3F实际上是 0.300000011920928955078125,所在在计算以及比较的时候会出错。解决这样的方法有2种:

一.  将Double, Float在计算的时候先转换成String然后传入BigDecimal 然后再进行计算这样可以保证不会有进度问题。

主要介绍下:BigDecimal的实现原理:当将Double, Float存入BigDecimal的时候,Java是用2进制保存的,所以会有误差。这时把Double, Float转成String或 用BigDecimal.valueOf(Double)(只用于double类型) 将数据放入BigDecimal后,再用BigDecimal计算。

关于BigDecimal的四舍五入:

BigDecimal b = new BigDecimal(Double.toString(double类型));

b.divide(BigDecimal.ONE, scale, BigDecimal.ROUND_HALF_UP)

这个可以完成四舍五入。

如果用这个函数BigDecimal.round(MathContext mc) 不能完成通常意味上的四舍五入。

因为:

一般情况下,当准确结果(在除法中,可能有无限多位)比返回的数值具有更多位数时,舍入模式和精度设置确定操作如何返回具有有限位数的结果。 首先,MathContext 的 precision 设置指定要返回的总位数;这确定了结果的精度。位数计数从准确结果的最左边的非零数字开始。舍入模式确定丢弃的尾部位数如何影响返回的结果。

摘自SCDN:---------

public BigDecimal(double val)

    将 double 转换为 BigDecimal,后者是 double 的二进制浮点值准确的十进制表示形式。返回的 BigDecimal 的标度是使 (10scale × val) 为整数的最小值。
      1. 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1(非标度值 1,其标度为 1),但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double(或者说对于该情况,不能表示为任何有限长度的二进制小数)。这样,传入 到构造方法的值不会正好等于 0.1(虽然表面上等于该值)。
      2. 另一方面,String 构造方法是完全可预知的:写入 new BigDecimal("0.1") 将创建一个 BigDecimal,它正好 等于预期的 0.1。因此,比较而言,通常建议优先使用 String 构造方法。
      3. 当 double 必须用作 BigDecimal 的源时,请注意,此构造方法提供了一个准确转换;它不提供与以下操作相同的结果:先使用 Double.toString(double) 方法,然后使用 BigDecimal(String) 构造方法,将 double 转换为 String。要获取该结果,请使用 static valueOf(double) 方法。

经测试,如果采用
BigDecimal bd = new BigDecimal("39.555");
System.out.println(bd.doubleValue());
BigDecimal bd1 = bd.setScale(2, BigDecimal.ROUND_HALF_EVEN);
System.out.println(bd1.doubleValue());
以上数据都对

摘自SCDN:---------

二.  在计算精度不是要求很高的情况下,可以对最后的结果进行四舍五入,已达到所要的精度,这样结果会正确,但这种方法只实用于对精度要求不高的情况。
分享到:
评论

相关推荐

    c语言double类型默认输出小数几位

    * `%lf`:以十进度形式输出double类型 * `%e`:以指数形式输出float类型,输出结果中的e小写 * `%E`:以指数形式输出float类型,输出结果中的E大写 * `%le`:以指数形式输出double类型,输出结果中的e小写 * `%lE`:...

    常见 CSS BUG 的处理

    **IE5/6 Doubled Float-Margin Bug**:在 IE5 和 IE6 中,当一个浮动元素紧挨着另一个设置了外边距的元素时,可能会出现外边距加倍的问题。 **解决方法**: - 使用 `display: inline` 来让元素表现得像内联元素一样...

    你必须知道的495个C语言问题(完整版本)

    1. **变量与常量**:变量的声明、初始化以及不同数据类型(如int, char, float, double等)的区别。 2. **运算符**:算术、比较、逻辑、位操作等各类运算符的使用及优先级。 3. **控制结构**:条件语句(if-else, ...

    2013-7-4程序员工作效率低下11大原因

    ### C#decimal、double、float三种数据类型的异同 - **float:** - 含字节数为4,32位,数值范围为-3.4E38至3.4E38(约7个有效位)。 - 适用于对精度要求不高的一般计算场景。 - **double:** - 含字节数为8,64...

    《你必须知道的495个C语言问题》

    5.14 为什么有那么多关于空指针的疑惑?为什么这些问题如此频繁地出现? 60 5.15 有没有什么简单点儿的办法理解所有这些与空指针有关的东西呢? 60 5.16 考虑到有关空指针的所有这些困惑,要求它们的内部表示都...

    c常见问题集解析,初学者很需要

    - **变量声明**:在C语言中,使用`int`, `char`, `float`, `double`等关键字声明变量。初学者需理解它们各自表示的数据范围和用途。 - **类型转换**:不同数据类型之间的转换需要注意隐式转换可能导致精度丢失或...

    可改变颜色的进度条

    float fillWidth = (float)(currentValue / (double)maxValue) * ClientRectangle.Width; // 设置进度条的颜色 Color progressColor = Color.FromName("自定义颜色"); // 绘制进度条的背景 e.Graphics....

    你必须知道的495个C语言问题

    1.29 为什么我的编译器不允许我定义大数组,如doublearray[256][256]? 命名空间 1.30如何判断哪些标识符可以使用,哪些被保留了? 初始化 1.31 对于没有显式初始化的变量的初始值可以作怎样的假定?如果一个...

    jfreechart-1.0.14

    void setBackgroundImageAlpha(float alpha) 背景图片透明度(0.0~1.0) void setBackgroundPaint(Paint paint) 背景色 void setBorderPaint(Paint paint) 边界线条颜色 void setBorderStroke(Stroke stroke) 边界...

    java基础练习题2答案解析.docx

    - **基本数据类型**:题目中提到了byte、boolean、long、float、int和double等基本数据类型的声明。Java的基本数据类型有固定的取值范围,如byte的范围是-128到127,long的最大值是9223372036854775807。 - **变量...

    基于关键路径的工程管理系统的设计和实现

    以下是关于这个系统设计与实现的核心知识点: 1. **关键路径法(CPM)**:关键路径法是确定项目中最长的、决定项目总工期的路径。在CPM中,每个任务都有一个开始和结束时间,通过计算所有任务的依赖关系,可以找出...

    EmotionLib:简单的动态库,用于视频情感识别

    -float * make(const char * path,double N,struct progress * bar) ,其中progress是struct {int,int},用于检查当前的识别进度返回path中每个视频的第N个帧的浮点数组指针,该指针具有正值 您可以将N = 0...

    C语言练习小程序

    1. **基本数据类型**:如int、char、float、double等,它们是构建程序的基础。 2. **变量和常量**:用于存储数据,变量的值可以改变,而常量则不可更改。 3. **运算符**:包括算术运算符、比较运算符、逻辑运算符...

    武汉理工大学C语言考试安排以及一些判断题学习记录.rar

    1. 数据类型:是否理解整型(int)、浮点型(float、double)、字符型(char)的区别和使用场景。 2. 静态与动态内存管理:了解何时使用静态分配(如局部变量)和动态分配(如malloc)。 3. 结构体与联合体:理解...

    C语言教案(1-68课时).doc

    C语言中的基本数据类型包括整型(int)、字符型(char)、浮点型(float和double),它们是构建程序的基础。运算符则用于对这些数据进行操作,如算术运算符(+、-、*、/、%)、关系运算符(<、>、==、!=等)、逻辑...

    C语言课程习题参考答案.zip

    2. **数据类型**:了解整型(int)、浮点型(float、double)、字符型(char)以及布尔型(在某些实现中是枚举类型,如bool)的使用。 3. **运算符**:包括算术运算符(+、-、*、/、%)、比较运算符(==、!=、<、>...

    C程序设计(第二版)

    1. 数据类型:理解各种基本数据类型(如int、char、float、double)的特性和使用场景,以及如何进行类型转换。 2. 指针:掌握指针的概念,了解其作为地址的概念,学会声明、初始化、赋值以及使用指针操作变量。 3....

    生产实习报告(java).doc

    Java的数据类型包括基本类型如byte、int、char、long、boolean、float和double,以及支持的类型转换。在控制流方面,实习中学习了if-else、while、do-while、for等语句,以及switch-case结构,理解了如何在不同情况...

Global site tag (gtag.js) - Google Analytics