`

MySQL float 类型的精度

阅读更多
MySQL float 类型的精度
总结:




要得到1位或2位精确小数的话,整数不能高于 32767

即:f<32767.99

因为 2E15=32768

所以最多只能正确处理0~32767的整数,


要得到3位 精确 小数的话,整数不能高于16383

即:f< 16383 .999

因为 2E14=16384





要得到4位 精确 小数,整数不能高于2047

即:f< 2047 .9999

而 2E11=2048



要得到5位 精确 小数,整数不能高于127

即:f< 127 .99999

而 2E7=128



要得到6位 精确 小数,整数不能高于15

即:f<15 .999999

而 2E4=16


要得到7位 精确 小数,整数不能高于0

即:f< 0 .9999999

而 2E0=0


要得到8位以上的 精确 小数,是不可能的

即:f不存在


笔者得到了一些数据,不过得不到它变化的规律,还请高人指点
分享到:
评论

相关推荐

    Java数据类型和MySql数据类型对应一览

    其中,INTEGER 类型用于存储整数,BIGINT 类型用于存储大整数,FLOAT 类型用于存储浮点数,DOUBLE 类型用于存储双精度浮点数。 日期时间类型 在 Java 中,日期时间类型对应的是 java.sql.Date、java.sql.Time、...

    Java数据类型和MySql数据类型对应表

    例如,我们可以使用 Java 的 int 类型来映射 MySql 的 INTEGER 类型,我们可以使用 Java 的 long 类型来映射 MySql 的 BIGINT 类型,我们可以使用 Java 的 float 类型来映射 MySql 的 FLOAT 类型,我们可以使用 Java...

    mysql下float类型使用一些误差详解

    MySQL中的`float`类型是一种单精度浮点数,它使用32位(4字节)存储数据,根据IEEE 754标准,这可能导致精度损失,尤其是在处理涉及精确数值计算的任务时,比如财务数据。浮点数在内部是用二进制表示的,某些十进制...

    MySQL数据类型全掌握

    ### MySQL数据类型全掌握 #### 一、概述 在数据库设计和开发过程中,正确选择数据类型对于确保数据的准确性和优化存储空间至关重要。MySQL作为一款广泛使用的开源关系型数据库管理系统,提供了丰富的数据类型来...

    MySQL数据类型详解

    - FLOAT:单精度浮点数,提供小范围的浮点数值。 - DOUBLE:双精度浮点数,提供大范围的浮点数值。 在定义表的时候,可以通过CREATE TABLE语句来指定列的数据类型。例如: ```sql CREATE TABLE ckdata ( fti ...

    MySQL中Decimal类型和Float Double的区别(详解)

    本文主要探讨了Decimal、Float和Double三种数据类型之间的差异,特别是在处理数值计算时的精度问题。 首先,`Float`和`Double`是非标准的浮点数数据类型,它们在数据库内部存储的是近似值。这意味着在存储和计算...

    MySQL所有数据类型.pdf

    FLOAT 类型用于存储单精度浮点数,占用 4 字节,范围从 -3.402823466E+38 到 -1.175494351E-38 或 0 到 3.402823466E+38。 ### DOUBLE 类型 DOUBLE 类型用于存储双精度浮点数,占用 8 字节,范围从 -1....

    MySql于Java数据类型对应列表

    ### MySQL与Java数据类型对应详解 #### 概述 在进行数据库操作时,尤其是在使用Java进行MySQL数据库开发的过程中,正确地映射数据类型是至关重要的一步。本文将详细介绍MySQL中的各种数据类型及其在Java中的对应...

    MySQL数据类型选择

    在 DECIMAL 类型中,MySQL 使用字符串类型存储实数,以避免精度问题。但是,这也会导致查询效率下降。在 FLOAT 类型中,MySQL 使用 CPU 的浮点数计算,以提高查询效率。但是,这也会导致精度问题。因此,在选择实数...

    Java中数据类型和MYSQL中数据类型的对比

    对比 Java 和 MySQL 数据类型时,开发者需要考虑存储需求、数据精度、性能和空间效率等因素。在设计数据库模式和编写 SQL 查询时,了解这些差异至关重要,以确保数据的正确性和高效存储。同时,这也影响到数据库查询...

    MySQL字段类型列表

    - `FLOAT(p)`: 浮点数,占用4字节,p表示精度,最多可有6位小数。 - `DOUBLE(p)`: 双精度浮点数,占用8字节,p表示精度,最多可有15位小数。 3. **定点数类型**: - `DECIMAL(M,D)` 或 `NUMERIC(M,D)`: 用于存储...

    MySQL 数据类型 (列表)

    MySQL 提供了多种浮点数类型,包括 FLOAT、DOUBLE 和 DECIMAL。 * FLOAT:占用 4 字节,单精度浮点数,用于存储小数数据。 * DOUBLE:占用 8 字节,双精度浮点数,用于存储高精度小数数据。 * DECIMAL:占用变量...

    MySQL数据类型

    MySQL 数据类型详细介绍 MySQL 数据类型是 MySQL 中最基本的组成部分,也是 MySQL 的核心组成部分。 MySQL 数据类型主要有六大类,即整型、浮点型、定点数浮点型、字符串、日期时间类型和二进制数据类型。 整型 ...

    MySql所有字段类型及长度范围

    - **FLOAT[(M,D)][ZEROFILL]**:FLOAT 类型用于存储单精度浮点数,其有效数值范围约为 -3.402823466E+38 到 -1.175494351E-38,以及 1.175494351E-38 到 3.402823466E+38。M 表示总位数,D 表示小数点后的位数。 - *...

    PHP格式化MYSQL返回float类型的方法

    在PHP编程中,处理MySQL数据库返回的数据是常见的任务,尤其是涉及到浮点数(float)类型时,由于浮点数在存储和计算过程中可能出现精度问题,因此格式化输出就显得尤为重要。本文将深入探讨如何在PHP中正确地格式化...

    MySQL 数据类型介绍.docx

    浮点数类型有两种,分别是单精度浮点数(FLOAT)和双精度浮点数(DOUBLE)。浮点类型可以用(M, D)来表示,其中 M 称为精度,表示总共的位数;D 称为标度,表示小数的位数。浮点数类型的取值范围为 M(1~255)和 D...

    MySql数据库的列类型(字段类型).pdf

    MySQL 数据库中的列类型,也就是字段类型,是数据库设计中的关键元素,决定了数据的存储方式和处理方式。列类型分为三大类:数值类、字符串类和日期/时间类。 数值类数据列类型主要包括整型和浮点型。整型又分为 ...

    mysql数据类型.doc

    FLOAT 类型占用 4 字节的存储空间,可以存储单精度浮点数。DOUBLE 类型占用 8 字节的存储空间,可以存储双精度浮点数。MySQL 还提供了 DECIMAL 类型,占用 M+1 或 M+2 字节的存储空间,可以存储未打包的浮点数。 ...

Global site tag (gtag.js) - Google Analytics