`
bnmnba
  • 浏览: 293562 次
  • 性别: Icon_minigender_1
社区版块
存档分类
最新评论

java floa转到doublet精度变化,数值变化

    博客分类:
  • java
 
阅读更多

看以下程序的输出结果:

 

public void testFloatAndDouble(){
		double d=new Float(10.0)-new Float(0.1);
		System.out.println(d);
		System.out.println(new Float(10.0)-new Float(0.1));
		System.out.println(new Double(10.0)-new Double(0.1));
	}	
 

 

结果:

 9.899999618530273

 9.9

 9.9


解决办法:用同一种类型。基本上只能选择double了。
分享到:
评论

相关推荐

    half:半精度16位浮​​点

    它们可以表示正数值和负数值,小至0.000062,大至65504.0,精度约为3个十进制数字。 例如,将pi舍入为3.140625。 ### Credit转换函数基于Paul“ Phernost” Tessier的Stack Overflow帖子: ://stackoverflow....

    Python实现绘制双柱状图并显示数值功能示例

    本文实例讲述了Python实现绘制双柱状图并显示数值功能。分享给大家供大家参考,具体如下: # -*- coding:utf-8 -*- #! python3 import matplotlib.pyplot as plt import mpl_toolkits.mplot3d #定义函数来显示柱状...

    float和16进制互转

    16进制转float,float转16进制的c语言代码,用的机器内自转

    笔试Java1答案.doc

    例如,以下代码将浮点数 f 四舍五入到 10 的 -2 次方精度: ```java public class Floa { public float getFloat2bits(float result) { for (int i = 0; i ; i++) { result *= 10; } result = (float) (int) ...

    Java调色板面板源代码.rar

    【Java调色板面板源代码】是一个与Java编程语言相关的资源,主要涉及到Java GUI(图形用户界面)设计,特别是如何创建和使用自定义的调色板。在Java中,调色板面板通常用于应用程序,尤其是涉及到图形编辑或颜色选择...

    java2c:将JAVA源代码转换为C源代码,无需任何类文件即可构建独立的二进制文件

    java2c 将JAVA源代码转换为C源代码,作为独立的二进制文件进行构建,并且无需任何类文件即可运行。 它是如此之小,可以用于嵌入式设备。 特征 垃圾收集 最小化内存占用 异常堆栈跟踪 线程支持 lambda支持 要求 JDK ...

    float2hex.rar

    单精度浮点数使用32位来存储数值,其中包括符号位、指数位和尾数位。双精度浮点数则使用64位,结构类似但容量更大,提供更高的精度。 在描述中提到的“将Float转换成16进制小工具”,其工作原理是将浮点数按照IEEE ...

    SQL中NUMERIC和DECIMAL的区别

    - **NUMERIC**: 在SQL中,`NUMERIC`是一种固定精度的数据类型,主要用于存储固定精度的十进制数值。 - **DECIMAL**: `DECIMAL`也是一种固定精度的数据类型,与`NUMERIC`非常相似,但在某些数据库系统中可能被视为...

    论文研究-α稳定分布下信号的维格纳分布分析方法.pdf

    研究分数低阶α稳定分布FLOA噪声下的信号仅从频域分析是不够的, 需要考虑时—频域的二维信息。从现有的时—频分析方法发现, 该方法是假设信号的背景噪声服从高斯分布, 对FLOA这类非高斯分布噪声下信号的时—频分析...

    第八节 数据类型.docx

    1. TEXT:数值型数据在被插入之前,需要先被转换为文本格式,之后再插入到目标字段中。 2. NUMERIC:当文本数据被插入到亲缘性为 NUMERIC 的字段中时,如果转换操作不会导致数据信息丢失以及完全可逆,那么 SQLite ...

    计算机组成原理教学课件:FloatingPoint.pptx

    浮点数在编程语言中扮演着至关重要的角色,它们允许我们处理非常小(如科学计数法中的1.0×10^-9)或非常大(如8.64×10^13)的数值,这些数值往往超出了常规整型数据类型的范围。浮点数通常采用科学记数法来表达,...

    考研计算机知识点整理-组原

    ​ int-float:32-24整数精度,floa-int:小数砍掉,2^32-1 ​ f+d:在对阶时,可能损失精度 4 CF标志位 ​ 思路一:看最高进位,+相同 -相反 ​ 思路二:形式值 大-小 5 边界对齐 ​ 地址被自身长度整除 二 ...

    SmallerFloats:这个GDScript项目可以将float转换为float16和float24,反之亦然

    较小的浮点数此GDScript项目添加了一些函数,这些函数可以将浮点值转换为整数值,反之亦然,以便允许对浮点数进行... fp16_as_int_to_float (fp16)print ( "Original Float 32: %f \n Float 16 as integer: %d \n Floa

    ascii2segy:该脚本使用segpy将ascii文件转换为segy

    用法:ascii2segy.py [-h] [-o OUTFILE] [-s SAMPLE_RATE] [-m MAX_TIME] [--dtype DTYPE] [-d SEISMIC_DIMENSIONS] [-e] [-v VERBOSITY] [-t] infile 关联性 该脚本使用segpy-rewrite将velf ascii文件转换为segy...

    OpenDBA:GPU加速的动态时间扭曲(DTW)重心平均

    make 如果要在Compute Capability小于6.1(〜2016之前制造)的GPU上运行此代码,则需要通过以下方式从openDBA.cu中删除对双精度浮点的支持: make DOUBLE_UNSUPPORTED=1快速开始首先,请确保您的计算机中装有NVIDIA...

    SQLite教程(七):数据类型详解

    在设计数据库结构和编写查询时,必须考虑到这种灵活性,以确保数据的正确存储和处理。此外,由于SQLite的动态特性,开发者需要对数据类型转换可能带来的影响有所警惕,特别是在与其他系统集成或进行数据迁移时。

    基于广义回归神经网络的单位运营状况分类.pdf

    GRNN通过调整其扩展参数Spread来适应不同的数据分布,Spread参数的选取直接影响网络的分类精度。 在本文中,作者针对单位运营状况的分类问题,指出Spread参数的选择对于GRNN分类性能至关重要。当Spread参数选取不当...

    json:在Elm中使用JSON

    Elm中的JSON 该软件包可帮助您在Elm值和JSON值之间转换。 该软件包通常与一起使用,以与服务器或进行通信以与JavaScript进行通信。 例子 你看过这个表吗? 您是否知道2002年战争占全球死亡人数的... , per100k : Floa

    torch.mean()

    注意:在这里使用的时候转一下类型,否则会报RuntimeError: Can only calculate the mean of floating types. Got Long instead.的错误。 查看了一下x元素类型是torch.int64,根据提示添加一句x=x.float()转为tensor....

Global site tag (gtag.js) - Google Analytics