`
林奇峰
  • 浏览: 42142 次
  • 性别: Icon_minigender_1
  • 来自: 濮阳
社区版块
存档分类
最新评论

浮点数运算

    博客分类:
  • j2se
阅读更多

   浮点数运算:

凡是小数位出现1,如:0.1 0.01 0.001等,无论是参与运算的数还是运算后的结果,都会出现误差

例1:
double a = 2.43;
double b = 1.42;
System.out.println(a-b);//结果中小数位存在1
结果是:1.0100000000000002

例2
double a = 2.0;
double b = 1.1;//参与运算的数小数位出现1
结果是:0.8999999999999999

为什么会出现误差?
要从十进制转换成二进制说起,查一下就明白了!

 

 

 

分享到:
评论

相关推荐

    java 精确的浮点数运算java 精确的浮点数运算java 精确的浮点数运算

    java 精确的浮点数运算java 精确的浮点数运算java 精确的浮点数运算 java 精确的浮点数运算java 精确的浮点数运算java 精确的浮点数运算 java 精确的浮点数运算java 精确的浮点数运算java 精确的浮点数运算 java ...

    java 精确的浮点数运算 工具类 java 精确的浮点数运算 工具类

    java 精确的浮点数运算 工具类 java 精确的浮点数运算 工具类java 精确的浮点数运算 工具类 java 精确的浮点数运算 工具类java 精确的浮点数运算 工具类 java 精确的浮点数运算 工具类java 精确的浮点数运算 工具类 ...

    浮点数运算[定义].pdf

    在当前提供的文档内容中,我们可以看到文档主要描述了浮点数运算的定义和过程,包括加法、减法、乘法和除法四种基本运算。浮点数运算是一种在计算机科学中广泛使用的数值计算方式,它能够表示非常大或者非常小的数值...

    三菱PLC浮点数运算指令

    在三菱PLC编程中,浮点数运算指令是非常重要的功能,因为工业控制中的许多参数和变量都需要进行浮点数运算。在三菱PLC中,浮点数运算指令能够处理32位的浮点数,并进行比较、变换、四则运算、开方运算以及三角函数...

    浮点数运算,三菱浮点数运算,C,C++源码.zip

    浮点数运算在计算机科学中扮演着至关重要的角色,特别是在数值计算、图形处理以及各种科学计算领域。浮点数是一种表示实数的方式,它允许有小数部分,并且可以表示非常大或非常小的数值。在三菱的PLC(可编程逻辑...

    MIPS汇编语言用整型数实现浮点数运算

    该资源用MIPS汇编语言实现整型数实现浮点数运算,通过MFC1和MTC1转换浮点数和整型数,不使用其他浮点数运算函数。

    430单片机浮点数运算

    430单片机浮点数运算EXE文件。 16转浮点

    fd.rar_浮点数_浮点数运算

    浮点数运算在计算机科学中占据着至关重要的地位,特别是在科学计算、图形处理以及各种复杂的算法中。在本文中,我们将深入探讨浮点数运算的基本原理,并结合"fd.rar"提供的"fd.asm"文件,了解如何在汇编语言环境下...

    浮点数运算.zip三菱PLC编程案例源码资料编程控制器应用通讯通信例子程序实例

    浮点数运算.zip三菱PLC编程案例源码资料编程控制器应用通讯通信例子程序实例浮点数运算.zip三菱PLC编程案例源码资料编程控制器应用通讯通信例子程序实例浮点数运算.zip三菱PLC编程案例源码资料编程控制器应用通讯...

    C语言浮点数运算

    ### C语言浮点数运算详解 #### 一、浮点数的有效位数为何是6~7位? 在C语言中,`float`类型的变量通常用来表示实数,其有效位数大约为6~7位。这里提到的有效位数是指能够准确表示的十进制数字的数量。之所以说是6~...

    verilog语言实现浮点数运算,正确程序代码+仿真

    在这个特定的项目中,我们关注的是如何使用Verilog来实现浮点数运算,特别是带有流水线技术的实现。浮点数运算在计算机科学中至关重要,因为它们允许更精确的数值计算,尤其是在科学计算、图形处理和工程应用中。 ...

    fp-lib.zip_浮点数运算_浮点运算 c++

    标题中的“fp-lib.zip_浮点数运算_浮点运算 c++”暗示了这是一个关于浮点数运算的库,主要用于C++编程环境。这个压缩包包含了一系列与浮点数计算相关的源代码文件和辅助资源,可能是一个小型的库或者教学示例。 ...

    jiafa.rar_浮点数运算

    浮点数运算是计算机科学中的一个重要领域,尤其是在数学计算、科学计算和工程应用中不可或缺。在处理大数浮点数时,常规的浮点运算可能会遇到精度问题和溢出问题,因此需要特殊的算法来保证计算的正确性和效率。标题...

    Java中如何正确进行浮点数运算

    在Java编程中,浮点数运算常常会遇到精度问题,这是由于浮点数在计算机内部的存储方式导致的。为了确保浮点数运算的准确性,开发者需要采取特定的方法。以下将详细阐述这个问题,并提供正确的处理策略。 首先,理解...

    用VHDL语言实现浮点数运算

    浮点数运算在数字信号处理领域中扮演着重要的角色,特别是在高性能计算和嵌入式系统中。VHDL(Very High Speed Integrated Circuit Hardware Description Language)是一种用于描述数字系统的硬件描述语言,它可以...

    显控PLC上位软件编程浮点数运算指令说明

    在编程过程中,浮点数运算是一项基础且重要的技能,它允许控制系统处理包含小数的数学运算。 浮点数运算指令主要涉及以下几个方面: 1. 浮点加运算(ADDF):用于计算两个32位实数的和,结果也是一个32位实数。在...

    float_sub_add.rar_浮点数_浮点数 加减_浮点数加减_浮点数运算_浮点运算

    浮点数运算包括加法、减法、乘法和除法等基本操作,但与整数运算不同,浮点数运算涉及到更复杂的数学原理和计算机内部表示。 浮点数在计算机中的存储方式遵循IEEE 754标准,该标准定义了单精度(32位)和双精度(64...

    Android平台浮点数运算应用.pdf

    在Android平台上开发浮点数运算应用,涉及到的关键知识点包括: 1. **Android操作系统**:Android是一个基于Linux内核的操作系统,最初主要用于移动设备,后来由Google推动并广泛应用于智能手机和平板电脑。Android...

    计算机组成原理浮点数运算方法推选PPT文档.ppt

    "计算机组成原理浮点数运算方法" 浮点数运算是计算机组成原理中的一种重要的运算方法,它的实现对计算机的性能和精度产生着重要的影响。浮点数运算可以分为浮点加减运算和浮点乘除运算两种,下面我们将对浮点加减...

    单片机浮点数运算之比较.doc

    单片机浮点数运算在不同的微控制器平台上性能表现差异显著。浮点数运算通常比整数运算更为复杂,因为它涉及到指数和尾数的处理,这在硬件层面需要额外的计算资源。本篇文章通过对比五款不同类型的单片机在执行相同...

Global site tag (gtag.js) - Google Analytics