`

oracle中数字的精度问题

阅读更多
在现有一个系统遇到百分比数值不对的bug
经测试发现时精度问题引起的
随测试数据如下:
create table test_report_table (amount number(5,2),age number(5));
insert into test_report_table values(5.333,5.333);
insert into test_report_table values(2/3,2/3);
select * from test_report_table;

AMOUNT AGE
5.33 5
0.67 1

说明数值类型在oracle中的影响
分享到:
评论

相关推荐

    oracle 数字金额转为汉字大写

    `readme.txt`文件可能会包含使用和注意事项,比如提醒用户在调用函数前确保已经正确创建了函数,或者在使用过程中需要注意的精度问题和性能优化建议。 总结来说,Oracle中将数字金额转换为汉字大写的过程涉及自定义...

    oracle数字的四舍五入、去尾、收尾法

    ### Oracle数字的四舍五入、去尾、收尾法 在Oracle数据库中,处理数字时经常需要对数值进行各种形式的舍入操作。本文将详细介绍Oracle中的三种常见舍入方法:去尾法(Truncation)、四舍五入法(Rounding)以及收尾...

    oracle 如何判断一个字符串能否转换为数字?

    ### Oracle 判断字符串是否能转换为数字的方法 在Oracle数据库中,我们经常需要处理各种数据类型...通过上述方法,我们可以在Oracle中有效地判断一个字符串是否可以转换为数字,从而避免因类型转换错误而导致的问题。

    Oracle中trunc()函数用法处理日期、数字类型数据

    Oracle 中的 TRUNC 函数用法处理日期、数字类型数据 TRUNC 函数是 Oracle 中的一个重要函数,它可以用来截断日期和数字类型的数据。下面我们将详细介绍 TRUNC 函数的用法和特点。 一、日期 TRUNC 函数 TRUNC 函数...

    sql server 和oracle 中数据类型的区别

    16. **smalldatetime**: 用于存储日期和时间,但精度较低,只到分钟级别,在Oracle中对应的类型为`DATE`。 17. **smallint**: 用于存储较小的整数值,占用2个字节,在Oracle中的对应类型为`NUMBER(5)`。 18. **...

    sqlserver-oracle 数据类型对照

    - `decimal`和`numeric`在SQL Server中对应Oracle的`NUMBER(precision)`,其中precision是精度。 - `float`在SQL Server中分为两种:`float(4)`对应Oracle的`BINARY_FLOAT`,`float(8)`对应`BINARY_DOUBLE`。 - `...

    ORACLE 自动类型转换

    例如,当一个数字与字符串进行比较时,Oracle会尝试将字符串转换为数字,或者在存储过程中,如果参数的数据类型与变量不匹配,Oracle会尝试自动转换。 2. **显示转换**:另一种转换方式是通过显式使用CAST或TO_CHAR...

    oracle和sql数据类型

    Oracle 和 SQL 数据类型是数据库管理系统中用于定义和存储数据的基础组件。它们决定了数据的结构、大小以及如何进行处理。以下是两种数据库系统中主要数据类型的详细比较: **Oracle 数据类型** 1. **Char**: Char...

    Oracle基本数据类型存储格式浅析

    其次,数字类型在Oracle中包括NUMBER、INTEGER、SMALLINT等。NUMBER类型可以存储非常大的数值,并具有极高的精度,其存储格式复杂,根据数值的大小和精度自动调整存储空间。较小的整数类型如INTEGER和SMALLINT,实际...

    Oracle Database 10g SQL开发指南 中文目录

    日期和时间处理部分详细讲解了Oracle中日期和时间值的存储和处理,包括日期格式转换、时间值函数的使用,以及如何处理时区问题,确保在跨时区操作中数据的一致性。 总之,《Oracle Database 10g SQL开发指南》是一...

    PowerDesigner字段与Oracle字段对应

    在数据库设计过程中,PowerDesigner 和 Oracle 之间的字段对应关系是至关重要的,因为它直接影响到数据的存储和处理。PowerDesigner 是一款强大的数据建模工具,它允许用户创建概念数据模型(CDM)和物理数据模型...

    oracle小数点处理

    4. **精度问题**:在进行小数点处理时需要注意浮点数运算可能带来的精度问题。 #### 五、总结 通过本文的学习,我们了解了Oracle数据库中处理小数点位数的关键函数及其应用场景。正确选择并使用这些函数可以帮助...

    Oracle与DB2数据类型的分类对应说明

    Oracle 中的 DATE 类型包含年、月、日、时、分、秒,而 DB2 中的 DATE 类型只包含年、月、日。因此,在将 Oracle 的 DATE 类型转换为 DB2 的 DATE 类型时,需要将时、分、秒部分删除。同时,DB2 的 TIME 类型包含时...

    Oracle 错误代码对应表

    12. 值大于该列的指定精度(143822003):当我们尝试插入一个数字值,而该值超过了列的指定精度时,Oracle 将抛出这个错误代码。 示例代码:INSERT INTO emp (salary) VALUES (1000000); 13. 无效的数字...

    oracle常用函数和类型

    1. NUMBER:这是Oracle中最通用的数字类型,可以存储整数和浮点数,允许定义精度(小数点后的位数)和规模(总位数)。BINARY_INTEGER是Oracle中用于整数计算优化的类型,而DEC、DOUBLE PRECISION、INTEGER、INT、...

    ORACLE设计表时

    - **NUMBER**:这是Oracle中最常用的数值类型,可以精确地存储固定或可变精度的小数或整数。当不指定精度时,默认为38位数字,小数部分默认为0。 - **INTEGER (INT)**:它是一种特殊的NUMBER类型,用来表示整数。其...

    Oracle培训教材.doc

    在Oracle中,常见的数据类型包括字符型(CHAR、VARCHAR2)、数字型(NUMBER)、日期型(DATE)和长值型(LONG RAW)。CHAR是固定长度的字符串,而VARCHAR2是可变长度的,存储空间只占用实际需要的大小。NUMBER数据...

    Oracle到mysql转换的问题总结.docx

    - `NUMBER(10,2)`在Oracle中表示带有两位小数的数值,对应于MySQL的`DECIMAL(10,2)`,同样用于存储带有精度的数字。 - `VARCHAR2`在Oracle中等同于MySQL的`VARCHAR`,用于存储可变长度的字符串。 - `DATE`在...

    SQLSERVER导入ORACLE数据库.

    例如,日期格式、数字精度等都需要调整以适应Oracle的要求。这可以通过编程语言(如Python、Java)或者ETL工具(如SSIS - SQL Server Integration Services)来实现。 3. **数据加载**:将转换后的数据导入Oracle,...

    java与oracle等数据库类型对应

    1. **Number**: 这种无精度和标度定义的"Number"可以存储任意大小的数字,理论上可以看作是Java中的任意整数类型(int、long、short、byte)。但需要注意,Oracle的"Number"没有指定精度时,其大小和Java的整型有所...

Global site tag (gtag.js) - Google Analytics