`

代码之谜(四)- 浮点数(从惊讶到思考)

阅读更多

在『代码之谜』系列的前几篇文章中,很多次出现了浮点数。 浮点数在很多编程语言中被称为简单数据类型,其实,浮点数比起那些复杂数据类型(比如字符串)来说, 一点都不简单。

单单是说明 IEEE浮点数 就可以写一本书了,我将用几篇博文来简单的说说我所理解的浮点数,算是抛砖引玉吧。

一次面试

记得多年前我招聘 Java 程序员时的一次关于浮点数、二分法、编码的面试, 多年以后,他已经称为了一名很出色的程序员。 每次聚会他都会告诉我,“那次面试彻底改变了我的过去的学习方式, 我以前 只是盲目接受知识,根本就没有自己思考过, 那次对话,比我大学四年学到的知识都多”。

我看他简历上写到读过《信息论》才谈了很多关于二分法以及编码的话题, 整个过程大概3个小时——这是我面试时间最长的一次。

因为时间久远,我把一些我能回忆起来的关于浮点数的内容整理在这篇博客中。

格式说明:

所有我说的话,都放在引用里面。他的话放在了引号(“”)里面。没有加引号的是我的心理活动或者说明。

浮点数个数

在 8 位计算机上,浮点数一共有多少个呢?

“8 位的好像太过时了,现在主流的是 32 位的,好像可以表示3 x 10^38。”

果然不出我所料, 很多毕业生都把计算机学成了文科,他们不是在学习理论知识,而是接受/背诵这些知识

8 位计算机可以表示的整数是多少个呢?

“这个简单,2的8次方,应该是 256 个。N 位计算机表示的整数就是 2 的 N 次方。”

他回答时显得很兴奋,因为他终于可以反驳我的观点了,他没有把计算机当作死记硬背的学科。

8 位计算机,或者说 8bit 可以表示 2^8 个整数。 如果用这 8bit 来表示字符,可以表示多少个呢?

“呵呵,当然也是 2 的 8 次方了,否则就没有必要再发明16位或者32位的 unicode 去表示汉字了。”

如你刚才所说,8bit 可以表示 3^38 个浮点数。那么你估算一下,2bit 可以表示多少个浮点数呢?

“既然 2bit 可以表示 4 个整数,浮点数嘛肯定比这个多,最少也得能表示 10 几个浮点数吧。”

好吧,按照你的思路,我说几个数。
  • 0总该有吧,用 00 表示。
  • 1 用 01 表示
  • 2 用 10 表示
  • 3 用 11 表示

现在你把 0.4 给我表示出来?

『他思索了片刻』“哦。我明白了, 2bit 可以表示 4 个数,不管是整数、小数或者字符,就算是用 2bit 表示苹果,我们也只能表示 4 个,如果想要表示更多,就得用更多的 bit 位。”

虽然他在简历中写到读过《信息论》,他对 N bit可以表示的信息量是 2^N 肯定没有完全理解,或者只是被动接受了这个定理。

过了一会儿他又继续说:“按照这个逻辑,8bit 只能表示 256 个浮点数了,这也太少了。 我有点糊涂了,浮点数的表示范围一般都得几万甚至几亿啊。”

浮点数精度

于是我在 firebug 里面写了几行代码(可以在本系列第一篇的 序言 部分找到这些代码)。

0.2 + 0.4

0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1

“这怎么可能呢?JS 居然这么不严格?”

显然他把这种现象归结于 js(谢天谢地,他没有把罪过加在 firebug 身上)。 于是我用 Java 重写了上面的代码,这回他只剩目瞪口呆了。

既然他已经开始 惊讶,那么下一步就是 思考。我又稍作了解释:

任何语言都宣称他们的浮点数的表示范围是 3 x 10^38,这个数到底多大呢?目前所知宇宙的年龄是 1.373 x 10^10 年。

但是 32bit 最多只能表示 2^32 个数,大约是 4 x 10^9。

对比一下你就会发现令人震惊的结果。 如果把浮点数的范围比做地球,那么可以精确表示的浮点数还不到一粒芝麻大。

“这么说,0.2+0.4 是因为他不能够精确表示,所以出现了计算错误的现象。那在编程中如何避免这种问题呢?”

用 定点数表示小数

浮点数等价于小数吗

“定点数不是整数吗?定点数怎么表示小数啊?”

很显然,有一个理论性概念错误。他没有真正理解什么是定点,什么是浮点。

浮点数可以表示整数吗?比如,float a = 2 可以吗?

“可以是可以,这个 2 在计算机里面应该存储的是 2.0 吧?”

计算机肯定没有存储 2.0。百分之一万的肯定。计算机存储的是0、1串。呵呵。

“我觉得浮点数应该不会存储整数的2,他存储的应该是小数的2.0,然后转换成0、1串,是这样吗?”

他一连问了我几个问题,使我感觉到,我不是在面试,而是在上课。

整数和小数是数学里面的概念,在计算机中,只有定点数和浮点数,没有整数和小数

定点数在课本里如何定义的?

“忘了,只知道定点数就是整数,浮点数就是小数。好像老师也是这么讲的。”

那是因为你们老师不是我,如果我当老师,肯定不会这么教学生。『笑』

定点、浮点,“点”是什么意思?“点”就是小数点。 把小数点固定,通常固定在最右面,就是定点数。 把小数点浮动,就是浮点数。浮点在哪儿?这个在 IEEE 浮点数标准里面定义的。

回到前面话题,如何精确的表示小数呢?其中一种方案就是定点数。

拿 8bit 举例吧。我们可以把小数点定在中间,用 4bit 表示整数部分,4bit 表示小数部分。 这样构造方式(专业点我们称他为数据结构,一般语言把整数和小数称为简单数据类型,其实他们一点都不简单,而且比那些成了复合数据类型的字符串都要复杂的多),我们可以精确的表示64个小数,我们可以精确的表示 2^8 = 256 个小数(谢谢 mfkvfn 在 iteye 上的指正)。


在下一章,我们将构造一个 8bit 的浮点数表示形式,来深入探索浮点数不为人知的秘密。 我称它为 JJFN-134(JustJavac Float Notation,justjavac浮点数表示法),1bit符号,3bit指数,4bit尾数。

分享到:
评论
1 楼 nobullet 2015-05-21  
启发很大,不只是定点数。谢谢你。

相关推荐

    1602液晶显示 -浮点数

    本文将详细探讨如何在1602液晶显示器上显示浮点数,这一过程涉及到硬件连接、驱动程序编写以及数值转换等多个方面。 1602液晶显示器通常具有16列2行的显示区域,可以显示32个字符,每个字符由5x8像素矩阵组成。在...

    4.15实验-浮点数的表示及运算

    浮点数在计算机科学中扮演着至关重要的角色,因为它们被用来表示小到极小、大到极大的数值,广泛应用于科学计算、图形处理、物理模拟等领域。本实验将深入探讨浮点数的表示方法和运算过程,这对于理解计算机内部如何...

    电子-浮点数转换成字符串.c

    电子-浮点数转换成字符串.c,单片机/嵌入式STM32-F0/F1/F2

    ieee754--浮点数标准

    这种分段结构允许浮点数表示从非常大到非常小的数值范围,并且具有一定的精度。 2. **浮点运算** IEEE 754规定了浮点加法、减法、乘法、除法以及根号等基本运算的精确规则。此外,还包括对溢出、下溢、除以零和...

    代码之谜(持续更新)1

    代码之谜(四)讨论了浮点数的概念和应用,从惊讶到思考。该篇博客旨在让读者更好地理解代码中的浮点数。 7. 代码之谜(五)- 浮点数(谁偷了你的精度?) 代码之谜(五)讨论了浮点数的精度问题,谁偷了你的精度...

    S7-200SMART实数-浮点数-批量传送-库文件+使用说明.zip

    《S7-200SMART实数与浮点数批量传送技术详解》 在工业自动化领域,西门子S7-200SMART系列PLC(可编程逻辑控制器)广泛应用于各种控制系统。本文将深入探讨S7-200SMART在处理实数和浮点数时的批量传送技术,以及如何...

    TIA博途-截取浮点数-自定义小数位数-全局FC库文件-V17版本-GF-截取浮点数-自定义小数点后位数.zip

    然而,在某些应用中,可能需要对浮点数进行格式化处理,比如只保留小数点后特定位数的数字,这就涉及到了浮点数的截取。 全局FC库文件是一种高效的方法来封装常用的功能,可以在项目中重复使用,减少代码重复,提高...

    计算机后端-PHP视频教程. php与mysql加强- 05. php加强52-浮点数不够精确wmv.wmv

    计算机后端-PHP视频教程. php与mysql加强- 05. php加强52-浮点数不够精确wmv.wmv

    第二节- - -浮点数相关的变量类型

    直接下载,电脑运行,加入了浮点数的简易计算机,是本篇笔记编译的程序

    计算机组成原理第4章-浮点数运算方法.pptx

    "计算机组成原理第4章-浮点数运算方法" 浮点数表示:浮点数可以写成Mx为浮点数的尾数,一般为绝对值小于1的规格化数(补码表示时允许为-1),机器中可用原码或补码表示。Ex为浮点数的阶码,一般为整数,机器中大多...

    解读IEEE标准754-浮点数机制

    在信息技术飞速发展的今天,计算机在处理各种数值计算任务时所依赖的科学基础之一,便是IEEE标准754——一种被广泛应用的浮点数运算国际标准。本文旨在深入解读IEEE 754标准,探讨其对于计算机系统的重要性和在科学...

    电力规约遥测值转换(归一化-标度化-浮点数)算法

    在电力协议编程过程中,对于入门开发人员来说,对于归一化值NVA,标度化值SVA,短浮点数R32-IEEE STD 754数据值转换不是很清楚,本文档有源码解析,请下载收藏

    用32-bit整数模拟32-bit和64-bit浮点数除法

    压缩包中的“64-bit和32-bit四则算术运算”可能包含了与32-bit和64-bit整数运算相关的代码示例或者测试数据。四则运算(加、减、乘、除)在各种编程语言和系统中都有实现,但64-bit运算在处理大整数或高精度计算时...

    论文研究-浮点数编码的阈值消噪研究.pdf

    着重分析了遗传操作中浮点数编码噪声的性质,研究利用小波阈值化系数对浮点数编码消噪的机理,通过变异运算消噪。结果表明,将小波理论用于浮点数编码遗传算法的变异消噪是可靠的、方法是可行的。

    59-浮点数函数指令.mp4

    西门子200PLC入门视频教程

    浮点数与16进制转换(含源代码)_单片机_浮点数_转换_十六进制_实数_

    3. **十六进制到浮点数的转换**:相反的过程需要解析出十六进制的各个部分,然后将指数和尾数部分转换回二进制,最后根据IEEE 754标准组合成浮点数的二进制表示。这个过程需要注意指数的偏移处理和尾数的小数点位置...

    c代码-浮点数 浮点计算器

    在编程领域,C语言是一种广泛使用的底层编程语言,它提供了对硬件的直接访问,因此非常适合进行性能关键的任务,包括创建浮点数计算器。本项目聚焦于C语言实现的浮点数计算器,这是一个处理数学中浮点数运算的程序。...

    60-浮点数函数指令应用举例.mp4

    西门子200PLC入门视频教程

    赛灵思浮点数IP文档

    赛灵思(Xilinx)是一家专注于可编程逻辑设备的领先供应商,提供多种硬件平台和集成软件环境。文档“赛灵思浮点数IP文档”指的是关于赛灵思...希望这份详细的解读能够帮助到使用赛灵思浮点数IP核的工程师和技术人员。

Global site tag (gtag.js) - Google Analytics