Double,Float都是由2进制数表示10进制的数,所以很多10进制数表示不完全,如0.3F实际上是 0.300000011920928955078125,所在在计算以及比较的时候会出错。解决这样的方法有2种:
一. 将Double, Float在计算的时候先转换成String然后传入BigDecimal 然后再进行计算这样可以保证不会有进度问题。
主要介绍下:BigDecimal的实现原理:当将Double, Float存入BigDecimal的时候,Java是用2进制保存的,所以会有误差。这时把Double, Float转成String或 用BigDecimal.valueOf(Double)(只用于double类型) 将数据放入BigDecimal后,再用BigDecimal计算。
关于BigDecimal的四舍五入:
BigDecimal b = new BigDecimal(Double.toString(double类型));
b.divide(BigDecimal.ONE, scale, BigDecimal.ROUND_HALF_UP)
这个可以完成四舍五入。
如果用这个函数BigDecimal.round(MathContext mc) 不能完成通常意味上的四舍五入。
因为:
一般情况下,当准确结果(在除法中,可能有无限多位)比返回的数值具有更多位数时,舍入模式和精度设置确定操作如何返回具有有限位数的结果。 首先,MathContext 的 precision 设置指定要返回的总位数;这确定了结果的精度。位数计数从准确结果的最左边的非零数字开始。舍入模式确定丢弃的尾部位数如何影响返回的结果。
摘自SCDN:---------
public BigDecimal(double val)
将 double 转换为 BigDecimal,后者是 double 的二进制浮点值准确的十进制表示形式。返回的 BigDecimal 的标度是使 (10scale × val) 为整数的最小值。
1. 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1(非标度值 1,其标度为 1),但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double(或者说对于该情况,不能表示为任何有限长度的二进制小数)。这样,传入 到构造方法的值不会正好等于 0.1(虽然表面上等于该值)。
2. 另一方面,String 构造方法是完全可预知的:写入 new BigDecimal("0.1") 将创建一个 BigDecimal,它正好 等于预期的 0.1。因此,比较而言,通常建议优先使用 String 构造方法。
3. 当 double 必须用作 BigDecimal 的源时,请注意,此构造方法提供了一个准确转换;它不提供与以下操作相同的结果:先使用 Double.toString(double) 方法,然后使用 BigDecimal(String) 构造方法,将 double 转换为 String。要获取该结果,请使用 static valueOf(double) 方法。
经测试,如果采用
BigDecimal bd = new BigDecimal("39.555");
System.out.println(bd.doubleValue());
BigDecimal bd1 = bd.setScale(2, BigDecimal.ROUND_HALF_EVEN);
System.out.println(bd1.doubleValue());
以上数据都对
摘自SCDN:---------
二. 在计算精度不是要求很高的情况下,可以对最后的结果进行四舍五入,已达到所要的精度,这样结果会正确,但这种方法只实用于对精度要求不高的情况。
分享到:
相关推荐
* `%lf`:以十进度形式输出double类型 * `%e`:以指数形式输出float类型,输出结果中的e小写 * `%E`:以指数形式输出float类型,输出结果中的E大写 * `%le`:以指数形式输出double类型,输出结果中的e小写 * `%lE`:...
**IE5/6 Doubled Float-Margin Bug**:在 IE5 和 IE6 中,当一个浮动元素紧挨着另一个设置了外边距的元素时,可能会出现外边距加倍的问题。 **解决方法**: - 使用 `display: inline` 来让元素表现得像内联元素一样...
1. **变量与常量**:变量的声明、初始化以及不同数据类型(如int, char, float, double等)的区别。 2. **运算符**:算术、比较、逻辑、位操作等各类运算符的使用及优先级。 3. **控制结构**:条件语句(if-else, ...
### C#decimal、double、float三种数据类型的异同 - **float:** - 含字节数为4,32位,数值范围为-3.4E38至3.4E38(约7个有效位)。 - 适用于对精度要求不高的一般计算场景。 - **double:** - 含字节数为8,64...
5.14 为什么有那么多关于空指针的疑惑?为什么这些问题如此频繁地出现? 60 5.15 有没有什么简单点儿的办法理解所有这些与空指针有关的东西呢? 60 5.16 考虑到有关空指针的所有这些困惑,要求它们的内部表示都...
- **变量声明**:在C语言中,使用`int`, `char`, `float`, `double`等关键字声明变量。初学者需理解它们各自表示的数据范围和用途。 - **类型转换**:不同数据类型之间的转换需要注意隐式转换可能导致精度丢失或...
float fillWidth = (float)(currentValue / (double)maxValue) * ClientRectangle.Width; // 设置进度条的颜色 Color progressColor = Color.FromName("自定义颜色"); // 绘制进度条的背景 e.Graphics....
1.29 为什么我的编译器不允许我定义大数组,如doublearray[256][256]? 命名空间 1.30如何判断哪些标识符可以使用,哪些被保留了? 初始化 1.31 对于没有显式初始化的变量的初始值可以作怎样的假定?如果一个...
void setBackgroundImageAlpha(float alpha) 背景图片透明度(0.0~1.0) void setBackgroundPaint(Paint paint) 背景色 void setBorderPaint(Paint paint) 边界线条颜色 void setBorderStroke(Stroke stroke) 边界...
- **基本数据类型**:题目中提到了byte、boolean、long、float、int和double等基本数据类型的声明。Java的基本数据类型有固定的取值范围,如byte的范围是-128到127,long的最大值是9223372036854775807。 - **变量...
以下是关于这个系统设计与实现的核心知识点: 1. **关键路径法(CPM)**:关键路径法是确定项目中最长的、决定项目总工期的路径。在CPM中,每个任务都有一个开始和结束时间,通过计算所有任务的依赖关系,可以找出...
-float * make(const char * path,double N,struct progress * bar) ,其中progress是struct {int,int},用于检查当前的识别进度返回path中每个视频的第N个帧的浮点数组指针,该指针具有正值 您可以将N = 0...
1. **基本数据类型**:如int、char、float、double等,它们是构建程序的基础。 2. **变量和常量**:用于存储数据,变量的值可以改变,而常量则不可更改。 3. **运算符**:包括算术运算符、比较运算符、逻辑运算符...
1. 数据类型:是否理解整型(int)、浮点型(float、double)、字符型(char)的区别和使用场景。 2. 静态与动态内存管理:了解何时使用静态分配(如局部变量)和动态分配(如malloc)。 3. 结构体与联合体:理解...
C语言中的基本数据类型包括整型(int)、字符型(char)、浮点型(float和double),它们是构建程序的基础。运算符则用于对这些数据进行操作,如算术运算符(+、-、*、/、%)、关系运算符(<、>、==、!=等)、逻辑...
2. **数据类型**:了解整型(int)、浮点型(float、double)、字符型(char)以及布尔型(在某些实现中是枚举类型,如bool)的使用。 3. **运算符**:包括算术运算符(+、-、*、/、%)、比较运算符(==、!=、<、>...
1. 数据类型:理解各种基本数据类型(如int、char、float、double)的特性和使用场景,以及如何进行类型转换。 2. 指针:掌握指针的概念,了解其作为地址的概念,学会声明、初始化、赋值以及使用指针操作变量。 3....
Java的数据类型包括基本类型如byte、int、char、long、boolean、float和double,以及支持的类型转换。在控制流方面,实习中学习了if-else、while、do-while、for等语句,以及switch-case结构,理解了如何在不同情况...