1>.NUMBER类型细讲:
Oracle number datatype 语法:NUMBER[(precision [, scale])]
简称:precision --> p
scale --> s
NUMBER(p, s)
范围: 1 <= p <=38, -84 <= s <= 127
保存数据范围:-1.0e-130 <= number value < 1.0e+126
保存在机器内部的范围: 1 ~ 22 bytes
有效为:从左边第一个不为0的数算起的位数。
s的情况:
s > 0
精确到小数点右边s位,并四舍五入。然后检验有效位是否 <= p。
s < 0
精确到小数点左边s位,并四舍五入。然后检验有效位是否 <= p + |s|。
s = 0
此时NUMBER表示整数。
eg:
Actual Data Specified As Stored As
----------------------------------------
123.89 NUMBER 123.89
123.89 NUMBER(3) 124
123.89 NUMBER(6,2) 123.89
123.89 NUMBER(6,1) 123.9
123.89 NUMBER(4,2) exceeds precision (有效位为5, 5 > 4)
123.89 NUMBER(6,-2) 100
.01234 NUMBER(4,5) .01234 (有效位为4)
.00012 NUMBER(4,5) .00012
.000127 NUMBER(4,5) .00013
.0000012 NUMBER(2,7) .0000012
.00000123 NUMBER(2,7) .0000012
1.2e-4 NUMBER(2,5) 0.00012
1.2e-5 NUMBER(2,5) 0.00001
123.2564 NUMBER 123.2564
1234.9876 NUMBER(6,2) 1234.99
12345.12345 NUMBER(6,2) Error (有效位为5+2 > 6)
1234.9876 NUMBER(6) 1235 (s没有表示s=0)
12345.345 NUMBER(5,-2) 12300
1234567 NUMBER(5,-2) 1234600
12345678 NUMBER(5,-2) Error (有效位为8 > 7)
123456789 NUMBER(5,-4) 123460000
1234567890 NUMBER(5,-4) Error (有效位为10 > 9)
12345.58 NUMBER(*, 1) 12345.6
0.1 NUMBER(4,5) Error (0.10000, 有效位为5 > 4)
0.01234567 NUMBER(4,5) 0.01235
0.09999 NUMBER(4,5) 0.09999
定点数的精度(p)和刻度(s)遵循以下规则:
当一个数的整数部分的长度 > p-s 时,Oracle就会报错
当一个数的小数部分的长度 > s 时,Oracle就会舍入。
当s(scale)为负数时,Oracle就对小数点左边的s个数字进行舍入。
当s > p 时, p表示小数点后第s位向左最多可以有多少位数字,如果大于p则Oracle报错,小数点后s位向右的数字被舍入
分享到:
相关推荐
number">(.*?)</i>.*?stats-comments.*?number">(.*?)</i>.*?up.*?number hidden">(.*?)</span>.*?down.*?number hidden">(.*?)</span>',re.S) items=re.findall(pattern,source) number=1 for item in items: ...
Java.lang.Number是Java编程语言中的一个抽象基类,它为所有数值类型提供了基础框架。Number类的主要作用是提供一套通用的方法,将表示的数值转换为不同类型的值,如byte、double、float、int、long和short,这在...
`Ext.util.Format`是ExtJS中一个非常实用的工具类,包含了一系列用于字符串、日期和数值等类型的数据格式化的静态方法。`Number()`方法是其中之一,专门用于处理和格式化数字。在实际开发中,我们经常需要将数字以...
1、string–>number string类型 *1 即可变成 number类型 2、number–>string number类型 +’‘ 即可变成 string 类型 [removed] function screenInfo() { var str = '012.8372'; var s = 0; str = str...
logstash-snmpout ... # number (optional), default: "162" community => ... # string (optional), default: "public" oid => ... # string (required) yamlmibdir => ... # string (optional) } }
> Number.__proto__ === Function.prototype // true Boolean.__proto__ === Function.prototype // true String.__proto__ === Function.prototype // true Object.__proto__ === Function.prototype // true ...
/ match / serial_number <mobile> <size>1</size> <mobile> <id>16</id> <name>...LKF196</name> <udid>...ec034b8a2184260c55808f3ddd515dd3d0</udid> <serial>...LKF196</serial> <mac>...70:AB:4B:D8...
Number对象虽然用得不多,但它是JavaScript中的基本类型,提供了诸如MAX_VALUE、MIN_VALUE、NaN等属性,以及toString()等方法。String对象是处理文本数据的主要工具,拥有丰富的属性和方法,如length、charAt()、...
这些类型包括普通文本框、密码类型文本框、文本类型文本框、Number类型文本框、tel类型文本框、email类型文本框、URL类型文本框等。 HTML5文本框类型的优点在于,它可以根据不同类型的文本框,显示相应的键盘,从而...
sitewap-generator-cli 基于命令行工具安装$ npm install -g siteswap-generator-cli用法$ siteswap -balls [ < min> ..] < max> -period [ < min> ..] < max> [-height [ < min> ..] < max> ] [-slice < number> ] ...
注意,如果字符串包含非数字字符,`ee.Number.parse()`会抛出错误。 总的来说,了解和熟练运用GEE中的String和Number数据类型是进行有效编程的基础。正确地声明和操作这些数据类型可以确保代码的准确性和可维护性,...
PhoneNumber 一个获取号码归属地和其他信息(诈骗、骚扰等)的开源库。支持本地离线(含归属地、骚扰、常用号码)和网络(百度、聚合数据或自定义 API)查询。English 下载 通过 gradle 下载 dependencies { ...
网上找的绘图的小软件Select data series on left panel [Points]. Select menu item <Fit><Best Function>....Select the number of best fit functions '3' to plot. Select menu item <View><Fitting log>.
在ECMAScript标准中,没有内置的大数类型,因此在需要高精度计算的场景下,`bignumber.js`这样的库显得尤为重要。在前端开发中,尤其是在涉及金融、科学计算等领域,保证数字的精确性是至关重要的。例如,计算用户...
bignumber.min.js是一个用于任意精度算术的 JavaScript 库。 众所周知,数字运算的精度问题是一个让人很旦疼的问题,而java中有BigDecimal类对数字精度问题进行处理,经过一番查询,发现前段有一个宝藏精度处理类big...
GTM232.An.Introduction.to.Number.Theory,.Everest,.G.,.Ward,.T.(数论入门).djvu
登记表模板旧表8组.number.numbers
Slice 方式的语法表达式为:<Tag>.x<Bit number>、<Tag>.b<BYTE number>、<Tag>.w<WORD number>、<Tag>.d<DWORD number>。 在实际应用中,可以使用 Slice 方式来实现对变量的访问和操作。例如,创建一个 S7-1200 ...
8. Number -> java.lang.Double:ActionScript的Number类型(包含浮点和整数)在Java中通常转换为Double。 9. String -> java.lang.String:字符串类型是兼容的,无需特殊处理。 10. XML -> org.w3c.dom.Document:...
The 80x86 MOV Instruction<br>4.8 - Some Final Comments on the MOV Instructions<br><br>4.9 Laboratory Exercises<br>4.9.1 The UCR Standard Library for 80x86 Assembly Language Programmers<br>4.9.2 ...