`
_ICE
  • 浏览: 6278 次
  • 性别: Icon_minigender_1
  • 来自: 北京
最近访客 更多访客>>
社区版块
存档分类
最新评论

decimal 和 float

阅读更多
decimal     和   float   在基础上是完全不同的数据类型  
   
  decimal   是存储的是精确值,float则是近似值  
   
  decimal(n)  
  数值范围   1E-38   to   -1E-38  
  有效数字   38位  
   
   
  float(n)  
  数值范围   -   1.79E+308   to   -2.23E-308,   0   and   2.23E-308   to   1.79E+308  
  有效数字   7   or   15  
   
  结论:  
   
  decimal   精度高,   数值范围小,float   精度低,   数值范围大  
  decimal   运算速度比float快,   使用float时避免使用   =   运算(因为float的不确定性)  
  decimal   适合金融,   统计,   float适合科学运算
----------------------------------------------------
1.金额数据量的大小,量大用float,能省好多空间  
2.运算与精度要求,要求高用decimal  
------------------------------------------------------
用float  存到数据库会出现10.000000887788  
  后面的数字0887788是随机的,处理起来比较麻烦,实际开发经验
分享到:
评论

相关推荐

    详细分析sqlserver中的小数类型(float和decimal)

    在SQL Server中实际上只有两种小数数值类型,分别是float(近似数值)和decimal(精确数值),这两种类型能表示所有的小数数值类型。 float(近似数值类型) float表示的是近似数值,存在一定的精度缺失。 float(n)...

    MySQL中Decimal类型和Float Double的区别(详解)

    MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型。 其区别在于,float,double等非标准类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值。 float,double类型是可以存浮点数...

    数据库 数据类型float到C#类型decimal, float数据类型转化无效

    由于float和decimal在内部表示上的本质区别,它们之间的数据类型转换可能会变得复杂。 在标题中提到的“数据库数据类型float到C#类型decimal, float数据类型转化无效”中,问题的核心在于尝试将数据库中float类型的...

    Java中数据类型和MYSQL中数据类型的对比

    1. 数值类型:MySQL 提供了各种数值类型,如 INTEGER (INT)、SMALLINT、DECIMAL 和 FLOAT。INT 类型与 Java 中的 int 类型相似,但 MySQL 允许更大的存储范围。DECIMAL 和 NUMERIC 类型用于存储精确的数值,适合财务...

    C#期末考试题..doc

    2. 数据类型:C#中有两种主要的小数类型——decimal和float。decimal类型具有更高的精度,适合财务计算;而float类型的精度较低,但取值范围更大。在题目中,选项C正确说明了decimal比float精度高。 3. C#程序的...

    浅谈MySQL中float、double、decimal三个浮点类型的区别与总结

    下表中规划了每个浮点类型的存储大小和范围: 类型 大小 范围(有符号) 范围(无符号) 用途 ==float== 4 bytes (-3.402 823 466 E+38,-1.175 494 351 E-38),0,(1.175 494 351 E-38,3.402 823 466 351 E+...

    IBM mainframe PL/I 培训教程

    - **其他数据类型**:包括BIT、GRAPHIC、FLOAT DECIMAL和FLOAT BINARY,满足不同需求。 4. **程序结构规则** - 语句间用空格分隔,以分号结尾。 - 注释使用/* */包围。 - 程序名有特定的要求,如7个字符以内,...

    c#中decimal ,double,float的区别.doc

    decimal, double, 和 float 是 C# 中三种不同的浮点数类型,它们之间的区别在于精度、范围和应用场景。 首先,float 是 32 位单精度浮点数,具有 7 位有效数字,范围约为 ±1.5 × 10^(-45) 到 ±3.4 × 10^(38)。...

    MySQL数据类型选择

    MySQL 中提供了两种实数类型:DECIMAL 和 FLOAT。在 DECIMAL 类型中,MySQL 使用字符串类型存储实数,以避免精度问题。但是,这也会导致查询效率下降。在 FLOAT 类型中,MySQL 使用 CPU 的浮点数计算,以提高查询...

    python中的decimal类型转换实例详解

    为了应对这类挑战,Python提供了`decimal`模块,它实现了定点和浮点算术运算符,采用的是大多数人熟悉的十进制模型,而非计算机硬件实现的IEEE浮点数运算模型。本文将详细介绍`decimal`模块中的类型转换功能,并通过...

    C#期末考试题.doc

    在 C# 中, decimal 和 float 都可以表示小数,但是 decimal 的精度更高。 3. 运算符 C# 中有很多种运算符,包括算术运算符、比较运算符、逻辑运算符、赋值运算符等。在 C# 中,字符串连接运算符包括 & 和 +。 4....

    SQL中NUMERIC和DECIMAL的区别

    ### SQL中NUMERIC和DECIMAL的区别 在数据库设计与开发过程中,选择合适的数据类型是非常重要的一步,这直接关系到数据的存储效率与查询性能。在SQL语言中,`NUMERIC`和`DECIMAL`是最常用的数据类型之一,尤其是在...

    C#试题汇总(有答案) .pdf

    2. 数据类型:C#中有两种表示小数的类型,decimal和float。decimal类型的精度比float高,适合进行财务或精确计算。因此,小数类型比浮点类型精度高。 3. C#程序结构:C#程序的基本单元是源程序文件(source file),...

    二级单选-基础数据类型.pdf

    2. 浮点数类型:Python 中的浮点数类型可以用 decimal 和 float 两种形式表示,例如 `x = 10.5`、`x = 10e-5` 等。 3. 复数类型:Python 中的复数类型可以用 `complex` 类型表示,例如 `x = 3 + 4j`。 4. 布尔值类型...

    点错的小数点.docx

    数据库中数据类型的选择,如decimal和float,直接影响到小数点位置的存储和处理。如果小数点位置设置不当,数据查询和分析的结果可能与实际情况大相径庭,进而影响到决策的正确性。 计算机硬件层面,例如浮点运算...

    decimal数据类型的小结

    2. **存储效率**:虽然`decimal`类型占用的空间可能比`float`或`double`大,但它在处理货币计算时能有效避免舍入误差,确保数据的准确性。 3. **运算稳定性**:`decimal`类型的运算结果更加稳定,不会出现因二进制...

    Go-decimal-任意精度的定点小数

    Go的内置类型如float32和float64虽然广泛用于科学计算,但在处理金钱或税率等涉及精确数值计算的场景下,它们可能会导致误差。这是因为浮点数在计算机中的表示是近似值,而非精确值。为了解决这个问题,"decimal"库...

Global site tag (gtag.js) - Google Analytics