`
shenmin1984
  • 浏览: 62267 次
  • 性别: Icon_minigender_2
  • 来自: 安徽
社区版块
存档分类
最新评论

db2关于DECIMAL类型的收藏

DB2 
阅读更多

         创建表的时用的是DECIMAL(13,2)，我认为它为13个整数位数+2为有效数字，因为在打印银行交易的FORM时遇到了难题。输出和建表的长度不一样，我们以为它会打印出15为长度(13位整数+2位有效数字)，但是却遇到了难题。

         经过我们的近一个小时的讨论与时间，可以看出，在DECIMAL(13,2)的数据库的插入时，我们首先输入的数据为1234567890123.99，数据库报出错误：长度超出了规定长度。

          我们在此基础上有删除一个整数位，123456789012.99，结果还是报长度超出了范围，经过我们的查找资料，得到了一初步的认证，就是整数位+小数位一共为13位，因为在1234567890.99的数据插入中结果成功。

          于是我们又试验了1234567890.999，结果显示插入成功，打开数据库中发现了插入的数据在数据库中保存的数据为1234567890.99将第三位小数位给截断。

          我们得到了最后的结论，在DECIMAL(m,n)的设置中，整数的位数不能大于(m-n)，但小数位可以大于n，但会从大于n的有效位开始截断。

同时也解决了用datafactory插入数据时超过范围的问题，因为我感觉datafactory的自定义DECIMAL类型字段的时候，整数部分不是很准确，存在超过范围的情况，因此需要手动检查一下这些字段的定义。

分享到：
| 浅谈Datafactory
评论
发表评论

您还没有登录,请您登录后再发表评论

相关推荐

    python中的decimal类型转换实例详解

    ### Python中的Decimal类型转换详解 #### 一、引言 在Python编程中，处理精确的数值计算时，传统的浮点数运算可能会导致精度问题。为了应对这类挑战，Python提供了`decimal`模块，它实现了定点和浮点算术运算符，...

    Db2基本数据类型

    Db2 还提供了其他类型，包括 Numeric 和 Decimal 等。 * Numeric(p,s)：保存精确数值数据类型，范围为 -10E-38 到 10E-38，p 是精度，总小数位数（1~38），s 是小数位（小数位小于等于 p）。最大长度为 2~17 字节。...

    Oracle与DB2数据类型的分类对应说明

    Oracle 中的 NUMBER 类型可以对应 DB2 的 SMALLINT、INTEGER、BIGINT、DECIMAL(p,s) 和 FLOAT(n) 类型。其中，p 代表精度，s 代表 scale。NUMBER 类型的对应关系取决于 Oracle 中 NUMBER 类型的定义和所占用的存储...

    decimaljsJavaScript的任意精度Decimal类型

    Decimal.js通过提供一个任意精度的Decimal类型，可以确保在数学运算中保持极高的精度。 Decimal类型的核心特性包括： 1. **任意精度**：Decimal.js 可以处理任意长度的小数部分和整数部分，这使得它非常适合用于...

    DB2数据库数据类型

    DB2 数据类型详解 DB2 数据库提供了多种数据类型，包括数值型、字符串型、图形字符串型、日期时间型和特殊的 DATALINK 类型。这些数据类型可以满足不同的应用场景和业务需求。 数值型数据类型 数值型数据类型包括...

    转换科学计数法的数值字符串为decimal类型的方法

    在操作数据库时，需要将字符串转换成decimal类型。 代码如下： select cast('0.12' as decimal(18,2)); select convert(decimal(18,2), '0.12'); 当需要将科学计数法的数字字符串转换成decimal时，这2种写法都...

    Oracle和DB2的数据类型比较

    - 若NUMBER类型用于存储浮点数，则可能需要根据精度要求选择DB2/400中的DECIMAL或NUMERIC类型。 #### 四、字符类型 - **Oracle VARCHAR2**: 用于存储变长字符串，最大长度为4000字节。 - **DB2/400 CHAR/VARCHAR**...

    db2_数据类型_详细解析

    ### DB2数据库数据类型详解 #### 引言 在DB2数据库系统中，数据类型扮演着至关重要的角色，它们定义了如何存储、处理以及检索数据。深入理解DB2中的各种数据类型，对于优化数据库设计、提升查询性能以及确保数据...

    Decimal测试案例文档1

    在本文档中，我们将讨论 Decimal 类型属性在数据库插入和操作时的一些测试案例和问题。 1. Decimal类型属性插入数据时的精度问题 在数据库中，Decimal类型属性的精度范围是有限的。如果我们插入的数据超过了这个...

    db2 修改表数据类型

    ### DB2修改表数据类型详解 在DB2数据库系统中，有时我们需要更改现有表中列的数据类型以适应新的业务需求或提高数据处理效率。本文将详细介绍如何在DB2中修改表的数据类型，并通过一个具体的例子来说明整个过程。 ...

    decimal数据类型的小结

    在数据库设计与编程领域，`decimal`数据类型是一种极为重要的数值型数据结构，主要用于存储具有固定小数位数的十进制数值。这种数据类型的精确性对于财务计算、科学计算等场景至关重要，因为它能避免浮点数计算时...

    Oracle与DB2数据类型的对应说明书

    Oracle中的NUMBER类型可以对应DB2/400中的多种类型，例如SMALLINT、INTEGER、BIGINT、DECIMAL等。具体的对应关系取决于Oracle中的NUMBER类型将用于保存什么类型的数据，是整型还是带有小数位的实型数据。此外，还要...

    db2数据类型详解

    ### DB2 数据类型详解 #### 一、概述 DB2 是 IBM 开发的一款关系型数据库管理系统，被广泛应用于企业级环境中。为了满足不同场景下的需求，DB2 提供了多种内置的数据类型，主要包括数值型、字符串型、图形字符串型...

    MySQL中Decimal类型和Float Double的区别(详解)

    MySQL中存在float,double等非标准数据类型，也有decimal这种标准数据类型。 其区别在于，float，double等非标准类型，在DB中保存的是近似值，而Decimal则以字符串的形式保存数值。 float，double类型是可以存浮点数...

    DB2数据库中的各数据类型

    DB2数据库是一个强大的关系型数据库管理系统，其内部支持多种数据类型，这些数据类型的设计使得DB2能够处理各种复杂的数据结构和类型。以下是DB2数据库中主要数据类型的详细说明： 1. **数值型数据类型**： - **...

    MySQL中decimal类型用法的简单介绍

    MySQL中的decimal类型是一种用于存储精确数值的类型，它主要用于处理货币、精确计算或者任何需要无误差的数值存储的场景。与FLOAT和DOUBLE等浮点数类型不同，decimal类型以字符串形式存储，确保了数值的精确性，避免...

    11.ESQL／C程序中使用DECIMAL数据类型.doc

    本章节将深入探讨 DECIMAL 数据类型的各个方面，包括其基本概念、如何在 C 语言中正确地定义宿主变量来存储 DECIMAL 类型的值、存储要求以及如何使用 ESQL/C 的库函数进行类型转换等。 #### DECIMAL 数据类型的特性...

    Oracle与DB2的对应关系

    在 Oracle 中，可以使用 To_number(Integer()) 将字符型数据转化为数值型，而在 DB2 中可以使用 Decimal()。 四、系统日期 在 Oracle 中，系统日期可以使用 Sysdate 获取当前日期和时间，而在 DB2 中可以使用 ...

    全面了解DB2数据库中的各数据类型

    - `DECIMAL(p,s)` 和 `NUMERIC(p,s)`：固定精度和小数位数的数字类型，p为总位数，s为小数位数。 - `REAL`：单精度浮点数，约有7位有效数字。 - `DOUBLE PRECISION`：双精度浮点数，提供15位有效数字。 2. 字符...

Magicbox
Global site tag (gtag.js) - Google Analytics