-
为何Ruby的数值计算不够精确？5
实例：
puts (17.7+16.4)-(15.6+16.4)
结果：
2.09999999999999
为何不是2.1？
其他语言，如Python，Lua，R等，都能显示结果为2.1。
----------------------------------
其他实例：(26.4+18.7)-(17.8+21.2)
问题补充：sevk 写道f = (17.7+16.4)-(15.6+16.4)
puts f.round(3) 就是 2.1 了。
----------
可是改动一个数字，就正常了，如：
puts (27.7+16.4)-(15.6+16.4)
结果：12.1
而其他语言没有出现类似的问题，是不是语言的某个方面有问题？
问题补充：sevk 写道f = (17.7+16.4)-(15.6+16.4)
puts f.round(3) 就是 2.1 了。
--------------
改动另一位数字，
puts (17.8+16.4)-(15.6+16.4)
结果：2.22012年3月30日 16:09
添加评论
关注(0)
相关推荐
Ruby-Money库是一个专门为Ruby编程语言设计的强大工具，它专注于处理货币相关的运算和货币转换。这个库被广泛用于需要精确管理货币数据的应用程序，比如电子商务、财务系统或者任何涉及金融交易的项目。在Ruby社区中...
总之，Ruby的数值类和相关方法为处理各种数学运算提供了强大的支持，无论是简单的算术操作还是复杂的复数和有理数计算，都能得到妥善处理。同时，Ruby还提供了处理随机数和循环计数的便捷工具，以及处理浮点数误差的...
- **Numeric Classes**：数字类被重构，现在包括 Integer、Float 和 Rational，提供了更精确的数值计算和操作。 - ** Proc and Lambda**：Proc 对象现在可以被转换为 Lambda，这使得块的行为更一致，尤其是在处理...
然而，欧拉公式用于计算圆周率通常不是最有效的方法，因为直接的数值计算可能会引入误差。更常见的方法包括马赫林级数、 Bailey–Borwein–Plouffe (BBP) 公式或利用Chudnovsky算法。这些方法在专门计算圆周率的库中...
这就是`ruby-gsl`库的作用所在——它将GNU科学库（GSL）的功能无缝引入Ruby，为科学家、工程师和数学家提供了一种在Ruby环境中进行高效数值计算的途径。 **GNU科学库（GSL）介绍** GNU科学库（GNU Scientific ...
标题中的"APFP-开源"指的是一个开源项目，它的全称可能是"任意精度浮点数处理器"（Arbitrary Precision Floating Point，简称APFP），并且它专注于在Ruby编程语言环境中实现高精度的数值计算。这个项目提供了对任意...
计算结果可以以图表或数值的形式展示，帮助用户快速了解每个房间的噪音状况。 此外，Ruby的灵活性使得开发者能够轻松地扩展这个工具，比如添加实时数据采集功能，连接到外部传感器获取实时噪音数据；或者集成数据...
一些有趣的事实是，由于舍入规则，某些特定的浮点数运算可能会导致非直观的结果，这在数值计算中是一个重要的考虑因素。此外，单精度浮点数在内存和计算效率方面优于双精度，但在需要高精度的场合，如金融计算或科学...
GMP，全称为GNU Multiple Precision Arithmetic Library，是一个开源且免费的数学库，专为实现高速、精确的算术运算而设计。这个库广泛应用于需要无限精度计算的场景，如整数、有理数以及浮点数的处理，特别适合在...
这个强大的工具广泛应用于需要极端精确计算的领域，如加密算法、科学计算和工程应用等。 GMP的特性与优势： 1. **无限精度**：GMP的核心就是其无限精度能力，这意味着它能够处理任意大的数值，不受标准整型或浮点...
这些颜色的精确数据为设计师和艺术家们提供了极大的便利，无论是在数字屏幕上的呈现还是在纸张上的印刷，都能精确地复现颜色，确保色彩的一致性。 总的来说，《176,220动态壁纸.doc》不仅为设计专业人士提供了一个...
这个库提供了丰富的函数接口，使得开发者能够在各种编程语言中实现大整数的精确计算，支持复数、浮点数以及多项式运算，广泛应用在科学计算、密码学、金融计算以及数学软件等领域。 GMP-6.1.2是该库的一个稳定版本...
在解决几何问题时，"Geometry-开源"不仅能提供精确的数值结果，还能帮助用户理解各种几何定理与概念的应用，如欧几里得几何、射影几何等。 三角学是数学中研究三角形及三角函数的学科，对于理解周期性现象、波形...
在计算方法上，文章采用了一种数值原子轨道（数值基函数），结合了Diphontin数值逼近法和Rayleigh-Ritz变分过程，以优化计算效率并保持高精度。这种方法对于处理分子和晶体问题十分有效，并且比纯粹的从头计算方法更...
另一方面，它也可以针对特定文本内容进行计数，例如计算某个关键词或者链接的点击次数，这在内容分析和营销策略中具有极大的参考价值。 该程序包含两个核心文件：“count.cgi”和“说明.txt”。其中，“count.cgi”...
12.5 特殊的数值计算 237 12.5.1 特大整数的计算 237 12.5.2 浮点数的精确计算 239 12.6 小结 242 第13章 字符串——优异的内存组织机制 243 13.1 String类的基础知识 243 13.1.1 对象的创建 243 ...
SCSS提供内置函数，如`lighten()`、`darken()`用于调整颜色的亮度，`percentage()`将数值转换为百分比等。还可以自定义函数，处理更复杂的样式计算。 5. **导入指令**： 使用`@import`可以合并多个SCSS文件，便于...