博客首页 → 浮点数比较

最新文章列表

浮点数的比较

一浮点数的知识 1.首先浮点数不用补码表示，只有int型才用补码表示。 2.计算机能精确表示的数值是有限的，离散的，而现实中的实数是连续的，这就必然有精度的要求。二进制的小数更糟糕，能精确表示的更少。 例如： 0.1D,表示成二进制的时候是循环的 0.0 0011 0011 0011......B 根据IEEE标准754： 32位的float类型有效位为23位。前面还有个隐含位。 所以float类型 ...
浮点数比较 
rollstone 评论(0) 有1245人浏览 2011-10-11 10:48

最近博客热门TAG

Java(141747) C(73651) C++(68608) SQL(64571) C#(59609) XML(59133) HTML(59043) JavaScript(54918) .net(54785) Web(54513) 工作(54116) Linux(50906) Oracle(49876) 应用服务器(43288) Spring(40812) 编程(39454) Windows(39381) JSP(37542) MySQL(37268) 数据结构(36423)

博客人气排行榜

    博客电子书下载排行

      >>浏览更多下载

      相关资讯

      相关讨论

      Global site tag (gtag.js) - Google Analytics