浮点数为什么不精确?
其实这句话本身就不精确, 相对精确一点的说法是: 我们码农在程序里写的10进制小数,计算机内部无法用二进制的小数来精确的表达。
什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。
101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75
下面的图展示了一个二进制小数的表达形式。
从图中可以看到,对于二进制小数,小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 … 1/(2^n)
现在问题来了, 计算机只能用这些个 1/(2^n) 之和来表达十进制的小数。
我们来试一试如何表达十进制的 0.2 吧。
0.01 = 1/4 = 0.25 ,太大
0.001 =1/8 = 0.125 , 又太小
0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了
0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了
0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大
0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错
0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875
已经很逼近了, 就这样吧。
这就是我说的用二进制小数没法精确表达10进制小数的含义。
浮点数的计算机表示
那计算机内部具体是怎么表示的呢?
计算机不可能提供无限的空间让程序去存储这些二进制小数。
它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。
可以这样查看一下一个float的内部表示(以0.09f为例):
Float.floatToRawIntBits(0.09f)
你将会得到:1035489772, 这是10进制的, 转化成二进制, 在前面加几个0补足 32位就是:
0 01111011 01110000101000111101100
你可以看到它分成了3段:
第一段代表了符号(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0
第二段是阶码(e):01111011 ,对应的10进制是 123
第三段是尾数(M)
你看到了尾数和阶码,就会明白这其实是所谓的科学计数法:
(-1)^s * M * 2^e
对于0.09f 的例子,就是:
0101110000101000111101100 * (2^123)
好像不对,这肯定远远大于0.09f !
这是因为浮点数遵循的是IEEE754 表示法, 我们刚才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变换:
对于阶码e , 一共有8位, 这是个有符号数, 特别是按照IEEE754 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127
所以 E = e - 127 = 123-127 = -4
对于尾数M ,如果阶码不是0或者255, 他其实隐藏了一个小数点左边的一个 1 (节省空间,充分压榨每一个bit啊)。
即 M = 1.01110000101000111101100
现在写出来就是:
1.01110000101000111101100 * 2^-4
=0.000101110000101000111101100
= 1/16 + 1/64 + 1/128+ 1/256 + ….
= 0.0900000035762786865234375
你看这就是0.09的内部表示, 很明显他比0.09更大一些, 是不精确的!
64位的双精度浮点数double是也是类似的, 只是尾数和阶码更长, 能表达的范围更大。
符号位 :1位
阶码 : 11位
尾数: 52位
上面的例子0.09f 其实是所谓的规格化的浮点数, 还有非规格化的浮点数,这里就不展开了。
使用浮点数
由于浮点数表示的这种“不精确性”或者说是“近似性”, 对于精确度要求不高的运算还行, 如果我们用float或者double 来做哪些要求精确的运算(例如银行)时就要小心了, 很可能得不到你想要的结果。
具体的改进方法推荐大家看看《Effective Java》在第48条所推荐的“使用BigDecimal来做精确运算”。
相关推荐
3. **输入和输出处理**:使用 `scanf()` 或 `fgets()` 进行用户输入的读取,用 `printf()` 进行格式化输出,确保存款本息精确到两位小数。 4. **控制流**:程序需要根据用户输入的参数执行特定的计算逻辑,这可能...
可以使用`getText().toString()`获取输入值,然后转换为浮点数进行计算。 4. **计算逻辑实现** - 使用Java的数学库进行计算,如`Math.pow()`计算指数,`BigDecimal`处理精确浮点运算。 - 创建方法封装计算逻辑,...
`Money`类支持精确的数值运算,避免了浮点数计算中可能出现的精度问题。此外,`Money`还支持不同的货币代码(如ISO 4217),确保了全球货币的正确表示。 ### 2. 创建与初始化 创建`Money`对象可以通过以下几种方式...
存款和取款功能涉及到金额的增减操作,需要精确的计算和事务管理。在Java中,可以使用BigDecimal类来处理浮点数,以确保精度。同时,这些操作应当在数据库事务中执行,确保数据的一致性。例如,当用户尝试取款时,...
3. 对于浮点数的四舍五入,可以使用更高的精度来避免误差的影响,但这并不能完全消除浮点数的精度问题。 4. 使用数学库函数或其他编程语言提供的高精度计算方法,或者在应用程序层面处理四舍五入操作。 总之,理解...
在实际开发中,BCD编码常用于金融系统,如银行、支付平台等,处理金额时需要保证精度,避免浮点数计算误差。同时,BCD编码也有利于减少存储空间,因为一个字节可以存储两个十进制数字,对于大数据量的交易记录,可以...
在Python中,可以使用`decimal`模块来处理货币的精确计算,避免浮点数运算带来的误差。 5. **异常处理**:在进行货币转换时,应考虑可能的网络错误、API调用限制或者无效的货币代码等问题,需要编写适当的异常处理...
- **描述**: 匹配正整数,即首位不能为0。 - **应用场景**: 计数、统计等不允许出现零的场合。 ##### 11. 匹配负整数 - **表达式**: `^-[1-9][]0-9"$*` - **描述**: 匹配负整数。 - **应用场景**: 财务处理、数学...
- **应用场景:** 适用于财务计算中的精确金额输入。 **10. 有1~3位小数的正实数:** - **表达式:** `^[0-9]+(.[0-9]{1,3})?$` - **解释:** 匹配正实数,小数部分在1至3位之间。 - **应用场景:** 货币金额输入验证,...
- **应用场景:** 验证年龄、编号等不能为零的数字。 **12. 非零的负整数:** `^\-[1-9][]0-9"*$` 或 `^-[1-9]\d*$` - **含义:** 匹配非零的负整数。 - **应用场景:** 验证温度、海拔等可以为负数的情况。 **13....
- **应用场景:** 验证不能为负数的小数,如金额等。 **1.16 非正浮点数** - **表达式:** `^((-\d+(\.\d+)?)|(0+(\.0+)?))$` 或 `^(-([1-9]\d*\.\d*|0\.\d*[1-9]\d*))|0?\.0+|0$` - **解释:** 匹配非正的浮点数,...
2. **账户余额(Balance)**:表示账户上的金额,通常使用浮点数来存储精确的数值。 3. **客户信息(Customer Information)**:可能包括客户姓名、地址等,可以通过一个嵌套类或者关联类来表示。 4. **账户状态...
浮点数在计算机内部是以二进制表示的,因此某些十进制分数无法精确表示,这可能导致四舍五入的结果不完全符合预期。为了避免这种情况,可以使用`decimal`模块,它提供了高精度的浮点数运算,能够更精确地控制舍入...
此外,尽量使用专为金融计算设计的库,如`decimal.js`或`big.js`,它们提供了更精确的浮点数运算,避免了JavaScript内置数值类型可能导致的精度损失。 总结一下,JavaScript的`toFixed()`方法在处理四舍五入时并非...
6. **DECIMAL**: DECIMAL是一种用户自定义精度的浮点类型,适用于存储货币数额或科学数据,确保了精确的计算结果,如银行交易金额。 7. **CHAR**: CHAR是固定长度的字符串类型,最多可存储255个字符,常用于存储...
ABAP/4 数据类型是指在 ABAP 编程语言中定义的数据结构类型,用于存储不同类型的数据,如字符串、整数、浮点数等。数据类型的选择对于优化内存使用和提高程序运行效率非常重要。 #### ABAP/4 开发工作台 (abap/4 ...