`
registerID
  • 浏览: 5211 次
  • 性别: Icon_minigender_1
  • 来自: 成都
最近访客 更多访客>>
社区版块
存档分类
最新评论
  • phipray: 请问能说清楚吗?只修改IE的安全级别?还是tomcat的,to ...
    activex tomcat

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题

阅读更多
作者: jillzhang

    联系方式:jillzhang@126.com

    C语言和C#语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据占用 32bit,double数据占用64bit,我们在声明一个变量float f= 2.25f的时候,是如何分配内存的呢?如果胡乱分配,那世界岂不是乱套了么,其实不论是float还是double在存储方式上都是遵从IEEE的规范的,float遵从的是IEEE R32.24 ,而double 遵从的是R64.53。

    无论是单精度还是双精度在存储中都分为三个部分:

   1. 符号位(Sign) : 0代表正,1代表为负
   2. 指数位(Exponent):用于存储科学计数法中的指数数据,并且采用移位存储
   3. 尾数部分(Mantissa):尾数部分

其中float的存储方式如下图所示:

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

而双精度的存储方式为:



[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

    R32.24和R64.53的存储方式都是用科学计数法来存储数据的,比如8.25用十进制的科学计数法表示就为:8.25*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松,而120.5可以表示为:1.205*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松, 这些小学的知识就不用多说了吧。而我们傻蛋计算机根本不认识十进制的数据,他只认识0,1,所以在计算机存储中,首先要将上面的数更改为二进制的科学计数法表示,8.25用二进制表示可表示为1000.01,我靠,不会连这都不会转换吧?那我估计要没辙了。120.5用二进制表示为:1110110.1用二进制的科学计数法表示1000.01可以表示为1.0001*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松,1110110.1可以表示为1.1101101*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松,任何一个数都的科学计数法表示都为1.xxx*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松, 尾数部分就可以表示为xxxx,第一位都是1嘛,干嘛还要表示呀?可以将小数点前面的1省略,所以23bit的尾数部分,可以表示的精度却变成了 24bit,道理就是在这里,那24bit能精确到小数点后几位呢,我们知道9的二进制表示为1001,所以4bit能精确十进制中的1位小数点,24bit就能使float能精确到小数点后6位,而对于指数部分,因为指数可正可负,8位的指数位能表示的指数范围就应该为:-127-128了,所以指数部分的存储采用移位存储,存储的数据为元数据 127,下面就看看8.25和120.5在内存中真正的存储方式。

     首先看下8.25,用二进制的科学计数法表示为:1.0001*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

按照上面的存储方式,符号位为:0,表示为正,指数位为:3 127=130 ,位数部分为,故8.25的存储方式如下图所示:

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

而单精度浮点数120.5的存储方式如下图所示:

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

那么如果给出内存中一段数据,并且告诉你是单精度存储的话,你如何知道该数据的十进制数值呢?其实就是对上面的反推过程,比如给出如下内存数据:0100001011101101000000000000,首先我们现将该数据分段,0 10000 0101 110 1101 0000 0000 0000 0000,在内存中的存储就为下图所示:

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

根据我们的计算方式,可以计算出,这样一组数据表示为:1.1101101*[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松=120.5

而双精度浮点数的存储和单精度的存储大同小异,不同的是指数部分和尾数部分的位数。所以这里不再详细的介绍双精度的存储方式了,只将120.5的最后存储方式图给出,大家可以仔细想想为何是这样子的

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

下面我就这个基础知识点来解决一个我们的一个疑惑,请看下面一段程序,注意观察输出结果

            float f = 2.2f;

            double d = (double)f;

            Console.WriteLine(d.ToString("0.0000000000000"));

            f = 2.25f;

            d = (double)f;

            Console.WriteLine(d.ToString("0.0000000000000"));

可能输出的结果让大家疑惑不解,单精度的2.2转换为双精度后,精确到小数点后13位后变为了2.2000000476837,而单精度的2.25转换为双精度后,变为了2.2500000000000,为何2.2在转换后的数值更改了而 2.25却没有更改呢?很奇怪吧?其实通过上面关于两种存储结果的介绍,我们已经大概能找到答案。首先我们看看2.25的单精度存储方式,很简单 0 1000 0001 001 0000 0000 0000 0000 0000,而2.25的双精度表示为:0 100 0000 0001 0010 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000,这样2.25在进行强制转换的时候,数值是不会变的,而我们再看看2.2呢,2.2用科学计数法表示应该为:将十进制的小数转换为二进制的小数的方法为将小数*2,取整数部分,所以0.282=0.4,所以二进制小数第一位为0.4的整数部分0,0.4×2=0.8,第二位为 0,0.8*2=1.6,第三位为1,0.6×2 = 1.2,第四位为1,0.2*2=0.4,第五位为0,这样永远也不可能乘到=1.0,得到的二进制是一个无限循环的排列 00110011001100110011... ,对于单精度数据来说,尾数只能表示24bit的精度,所以2.2的float存储为:

[转]浮点数在计算机中存储方式与浮点(float,double)不精确问题 - Austin - 明月照青松

但是这样存储方式,换算成十进制的值,却不会是2.2的,应为十进制在转换为二进制的时候可能会不准确,如2.2,而double类型的数据也存在同样的问题,所以在浮点数表示中会产生些许的误差,在单精度转换为双精度的时候,也会存在误差的问题,对于能够用二进制表示的十进制数据,如2.25,这个误差就会不存在,所以会出现上面比较奇怪的输出结果。

本文属作者原创,只发布在博客园,希望大家在转载的时候,注明出处和作者,谢谢。

注:本文在写作过程中,参照了如下资料:

http://www.msdn.net/library/chs/default.asp?url=/library/CHS/vccore/html/_core_why_floating_point_numbers_may_lose_precision.asp

http://blog.csdn.net/ganxingming/archive/2006/12/19/1449526.aspx

Please Wait 请稍候


Why Floating-Point Numbers May Lose Precision为什么浮点数可能会丢失精度

Floating-point decimal values generally do not have an exact binary representation.浮点十进制值通常没有一个确切的二进制代表性。 This is a side effect of how the CPU represents floating point data.这是一个负面影响,如何代表的CPU浮点数据。 For this reason, you may experience some loss of precision, and some floating-point operations may produce unexpected results.出于这个原因,您可能会遇到一些损失精度,一些浮点运算可能会产生意想不到的结果。

This behavior is the result of one of the following:这种现象是由于下列内容之一:

    *

      The binary representation of the decimal number may not be exact.二进制代表十进制数可能不准确。
    *

      There is a type mismatch between the numbers used (for example, mixing float and double).有一个类型不匹配的数字之间使用(例如,混合浮动双) 。

To resolve the behavior, most programmers either ensure that the value is greater or less than what is needed, or they get and use a Binary Coded Decimal (BCD) library that will maintain the precision.要解决此问题,大多数程序员要么确保该值大于或小于所需要的,或者他们获得和使用二进制编码的十进制(声BCD )库,将保持精度。

Binary representation of floating-point values affects the precision and accuracy of floating-point calculations.二元代表性浮点值影响的精密度和准确度的浮点计算。 Microsoft Visual C uses IEEE floating-point format .微软Visual C 中使用的IEEE浮点格式 。

http://lingchuangsong.blog.163.com/blog/static/12693232201032692651894/
分享到:
评论

相关推荐

    浮点数在计算机中的存储方式

    ### 浮点数在计算机中的存储方式 #### 引言 在编程中,尤其是在C语言和C#等语言中,浮点数是非常重要的数据类型之一。对于浮点类型的存储,通常采用单精度类型(`float`)和双精度类型(`double`)。这两种类型...

    16位转浮点型float,MODBUS 32位转浮点型float 64位转双浮点型double

    计算机内部存储数字都是以二进制形式,而16进制是人类更易读的一种表示方式,1个16进制数可以表示4位二进制数。浮点数则是一种能够表示小数的数字格式,它由一个符号位、指数部分和尾数部分组成,遵循特定的规则,如...

    浮点数在计算机中存储方式.pdf

    总之,浮点数在计算机中的存储方式是一种科学的、标准化的表达方法,它通过符号位、指数部分和尾数部分来精确地表示实数,尽管受到精度和表示范围的限制,但已经能够满足大多数数值计算的需求。

    S7-200SMART 64位浮点数转换为32位浮点数指令库文件Double_to_Float.rar

    S7-200SMART 64位浮点数转换为32位浮点数指令库文件Double_to_Float

    HEX-Float转换工具 16进制转成float 或double类型数据的一个小工具

    在计算机中,根据IEEE 754标准,float和double类型的浮点数有不同的存储格式。float通常占用32位(4字节),其中1位用于符号,8位用于指数,23位用于尾数;double则占用64位(8字节),其中1位用于符号,11位用于...

    用Verilog实现整数转浮点数

    浮点数表示法是计算机科学中的一个关键概念,它允许存储和处理具有小数部分的数值。与整数相比,浮点数提供了更大的动态范围和精度,但需要更复杂的硬件来执行运算。在FPGA设计中,这种转换通常用于处理从传感器或...

    十六进制(HEX)和浮点类型(float、double)转换工具

    而浮点类型,如float和double,是用于存储小数的数值类型,广泛应用于科学计算、图形处理等领域。了解和掌握十六进制与浮点类型的转换是每一位IT专业人员的基本技能。 十六进制是一种逢16进1的计数系统,使用16个...

    浮点数在计算机内存中的存储格式

    浮点数在计算机内存中的存储格式对浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储。float数据占用32bit,double数据占用64bit。当我们声明一个变量float f = 2.25f时,计算机是如何分配内存的呢? ...

    16进制数据与浮点型数据转换——c语言程序

    本程序专注于16进制数据与浮点型数据之间的转换,这对于理解计算机内部如何存储和处理不同类型的数据至关重要。这里我们将详细探讨相关知识点: 1. **16进制数据表示**: 16进制(Hexadecimal)是一种逢16进1的...

    浮点数二进制互转小工具

    浮点数在计算机科学中扮演着至关重要的角色,特别是在数值计算、图形处理和科学计算等领域。浮点数的表示方式是基于二进制的,但为了方便人类阅读和理解,通常我们使用十进制形式。浮点数与二进制之间的转换是理解和...

    字节和float转换小工具

    标题中的"字节和float转换小工具"是一个专门针对字节与浮点数(float)之间转换的实用程序。这个小工具设计的目标是帮助开发者高效地在字节序列和浮点数之间进行切换,这在数据传输、存储或解析二进制文件时非常有用...

    浮点数转换工具(十六进制转浮点数)

    浮点数转换在计算机科学中是一项基础且重要的概念,特别是在编程和数字处理领域。浮点数,顾名思义,是指可以表示小数部分的数值,与整数相对。它们在计算机内部通常以二进制浮点数的形式存储,遵循IEEE 754标准。这...

    基于C++浮点数(float、double)类型数据比较与转换的详解

    浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于...

    c#,十六进制转换成浮点数

    需要了解IEEE 754浮点数标准,它是大多数现代计算机系统中用于存储浮点数的标准。该标准定义了两种主要格式:单精度(32位)和双精度(64位)。C#中的`float`对应单精度,`double`对应双精度。 - **单精度转换**:...

    浮点数与十六进制转换

    浮点数和十六进制转换在计算机科学中是至关重要的概念,特别是在编程语言如C中。浮点数是一种表示带有小数部分的数值的方式,而十六进制是一种基数为16的数字系统,常用于存储和表示二进制数据。在C语言中,理解和...

    S7-200SMART 双精度浮点型数据转换为单精度浮点型的方法.pdf

    双精度和单精度浮点数在计算机中以二进制形式表示,双精度占用64位(8字节),而单精度占用32位(4字节)。在S7-200 SMART PLC中,这种数据转换需要通过特定的方法实现。 本文件详细介绍了如何在S7-200 SMART PLC中...

    C# 浮点数与二进制之间的转换 源码

    在C#中,浮点数主要有两种类型:`float`(单精度浮点数)和`double`(双精度浮点数)。按照IEEE 754标准,`float`类型占用4个字节(32位),而`double`类型占用8个字节(64位)。每个字节包含8位二进制位,所以四个...

    十六进制与浮点型互转工具

    总结起来,十六进制与浮点型互转工具是计算机科学领域不可或缺的辅助工具,它连接了数字世界的不同层面,使我们能够在直观和精确之间自由切换。无论是开发者还是普通用户,掌握并利用好这个工具,都能在面对复杂的...

    十进制和十六进制转换成float、double数据

    在计算机科学中,数据通常以不同的进制表示,如十进制、十六进制等。在MATLAB和FPGA(Field Programmable Gate Array)设计中,理解和操作不同进制之间的转换是至关重要的。本文将详细讲解如何将十进制和十六进制...

    C#实现十六进制转换成浮点数

    在计算机内部,浮点数通常是用IEEE 754标准来存储的,分为单精度(float)和双精度(double)两种。单精度浮点数占32位,双精度浮点数占64位。其中,一部分位用来存储符号、指数和尾数,这些部分共同决定了浮点数的...

Global site tag (gtag.js) - Google Analytics