`

double float decimal

F# 
阅读更多

声明:摘自其他人的博客,  总之唯一同一目的就是共享,共同进步,再就是给自己留个备份 

 

 

float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)

double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)

decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算。(28个有效位)



float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入。

double d=345.975423578631442d;//结果显示为345.975423578631,只显示15个有效位,对最后一位四舍五入。

注:float和double的相乘操作,数字溢出不会报错,会有精度的损失。

decimal dd=345.545454879.....//可以支持28位,对最后一位四舍五入。

注:当对decimal类型进行操作时,数值会因溢出而报错
	public static void main(String[] args) {
		// TODO Auto-generated method stub
		//int m =123456789;
		double a =123456789.678;
		System.out.println(a);
		System.out.println(BigDecimal.valueOf(a));
	}

结果
 1.23456789678E8
  123456789.678
Begdicimal 无法进行+ *等运算,使用函数 add()  multiply()
 
 
分享到:
评论

相关推荐

    MySQL中Decimal类型和Float Double的区别(详解)

    本文主要探讨了Decimal、Float和Double三种数据类型之间的差异,特别是在处理数值计算时的精度问题。 首先,`Float`和`Double`是非标准的浮点数数据类型,它们在数据库内部存储的是近似值。这意味着在存储和计算...

    c#中decimal ,double,float的区别.doc

    C# 中 decimal, double, float 的区别 decimal, double, 和 float 是 C# 中三种不同的浮点数类型,它们之间的区别在于精度、范围和应用场景。 首先,float 是 32 位单精度浮点数,具有 7 位有效数字,范围约为 ±...

    浅谈MySQL中float、double、decimal三个浮点类型的区别与总结

    ==float== 4 bytes (-3.402 823 466 E+38,-1.175 494 351 E-38),0,(1.175 494 351 E-38,3.402 823 466 351 E+38) 0,(1.175 494 351 E-38,3.402 823 466 E+38) 单精度 浮点数值 ==double== 8 bytes (-1.797 ...

    数据库 数据类型float到C#类型decimal, float数据类型转化无效

    解决方法的关键点在于中间步骤,即先将float转换为double,然后将double转换为decimal。这种转换方法之所以可行,是因为double的精度和范围介于float和decimal之间。通过这样的转换,可以避免精度丢失,并确保数值...

    python中的decimal类型转换实例详解

    d = decimal.Decimal.from_float(f) print(d) # 输出: 0.1000000000000000055511151231257827021181583404541015625 ``` ##### 4. 从元组创建 元组包含一个符号标志、一个表示数字的tuple和一个整数指数。 ...

    iOS 解决floatValue,doubleValue等计算不精确问题,一句话解决精确计算,精确比较

    例如,`float`和`double`类型的值在进行加减乘除运算后,结果可能与预期不符,尤其是在比较两个浮点数是否相等时,直接使用`==`可能会得到错误的结果。 为了解决这个问题,我们可以采用以下策略: 1. **避免直接...

    AnalyzeDoubleAndDecimalDemo.rar

    decimal是10,double和float是2】 Decimal转化为4个Int逻辑:将decimal去除小数点【不考虑正负号】后如 1234.5678M 整数部分是12345678。将去除小数点后的数字【12345678】转化为二进制。 因整数部分由96位组成,...

    decimal数据类型的小结

    2. **存储效率**:虽然`decimal`类型占用的空间可能比`float`或`double`大,但它在处理货币计算时能有效避免舍入误差,确保数据的准确性。 3. **运算稳定性**:`decimal`类型的运算结果更加稳定,不会出现因二进制...

    double 计算过程出现的误差

    2. **使用`decimal`或`Decimal`类型**:这些类型虽然占用更多的内存空间,但能提供更高的精度,适合金融等需要高精度的场景。 3. **使用库函数或类**:如.NET Framework提供的`Math.Round`方法可以帮助处理浮点数的...

    C#数值转换-隐式数值转换表参考

    - byte 转换为 short、int、long、float、double 或 decimal。 - short 转换为 int、long、float、double 或 decimal。 - ushort 转换为 int、uint、long、ulong、float、double 或 decimal。 - char 转换为 ...

    DECIMAL功能设计文档1

    6. **计算与类型转化**:支持DECIMAL与其他类型(如INT、FLOAT、DOUBLE或VARCHAR)的数学运算和类型转换,包括SQL中的聚合函数。 设计思路部分提到,Cedar 0.2的ObSchemaManagerV2类负责管理所有表的架构,但在原...

    mysql下float类型使用一些误差详解

    对于单精度浮点数Float: 当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是...

    knx.net:KNX.net为.NET提供了KNX API

    API中提供了以下数据点: DPT 输入类型输入范围输出类型输出范围描述3.007 int , float , long , double , decimal [-7,7] int [-7,7] 控制调光(步长)[ 0停] 3.008 int , float , long , double , ...

    C#中处理多位小数精度的精度问题

    3. **避免浮点数的隐式转换**:即使在其他地方使用了`double`或`float`,也要确保在与`decimal`交互时不会发生隐式转换,因为这会导致精度损失。 4. **使用高精度库**:如果`decimal`的精度仍不足以满足需求,可以...

    Java与MySQL中小数保存问题解析.pptx.pptx

    MySQL数据库则提供了多种小数类型,包括浮点型(FLOAT和DOUBLE)和定点型(DECIMAL)。浮点型小数使用科学计数法存储,提供较广的数值范围,但可能牺牲精度以节省存储空间。相比之下,定点型小数如DECIMAL,其精度是...

    开源项目-txjmp-decimal4.zip

    与传统的浮点数(如double或float)相比,Decimal4通过使用整数表示法来存储十进制数,从而确保了计算结果的准确无误。 该项目的压缩包文件名为"decimal4-master",这表明它是Decimal4项目的主分支,可能包含了源...

    MySQL中decimal类型用法的简单介绍

    与FLOAT和DOUBLE等浮点数类型不同,DECIMAL类型不使用二进制浮点表示,而是以字符串的形式存储,从而避免了浮点数计算时可能出现的精度损失。 DECIMAL类型的定义格式是DECIMAL(M,D),其中M代表总数字个数(精度),...

Global site tag (gtag.js) - Google Analytics