`
wwbutton
  • 浏览: 42828 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

FLOAT 类型的精度

阅读更多
FLOAT[(M,D)] [UNSIGNED] [ZEROFILL]

A small (single-precision) floating-point number. Allowable values are -3.402823466E+38 to -1.175494351E-38, 0, and 1.175494351E-38 to 3.402823466E+38. These are the theoretical limits, based on the IEEE standard. The actual range might be slightly smaller depending on your hardware or operating system.

M is the total number of digits and D is the number of digits following the decimal point. If M and D are omitted, values are stored to the limits allowed by the hardware. A single-precision floating-point number is accurate to approximately 7 decimal places.

UNSIGNED, if specified, disallows negative values.

Using FLOAT might give you some unexpected problems because all calculations in MySQL are done with double precision. See Section B.1.5.7, “Solving Problems with No Matching Rows”.

  FLOAT[(M,D)] [UNSIGNED] [ZEROFILL]

小(单精度)浮点数。允许的值是-3.402823466E+38到-1.175494351E-38、0和1.175494351E-38到3.402823466E+38。这些是理论限制,基于IEEE标准。实际的范围根据硬件或操作系统的不同可能稍微小些。

M是小数纵位数,D是小数点后面的位数。如果M和D被省略,根据硬件允许的限制来保存值。单精度浮点数精确到大约7位小数位。如果指定UNSIGNED,不允许负值

从以上文档可知FLOAT类型在超过7位数的时候就会取近试值,一般是四舍五入的。
分享到:
评论

相关推荐

    float double精度的详细解释

    ### float与double精度详解 #### 一、浮点数的基础概念 ...了解`float`和`double`的区别及其内部表示方式,有助于开发者在选择合适的数据类型时做出正确的决策,尤其是在涉及高精度计算或大范围数值时尤为重要。

    C语言中floatdouble的区别.pdf

    在VC++6.0平台中,默认显示的float类型精度为6位,而double类型精度也为6位。这种差异可能会导致编译器报错,例如在赋值语句float a=0.1;时,编译器可能会报出警告,因为右侧的0.1被认为是一个double类型的常量,而...

    float类型的十六进制转换为十进制

    在MATLAB编程环境中,处理浮点数(如C语言中的`float`类型)的十六进制到十进制的转换是一项基本任务。以下是对这个主题的详细解释。 首先,让我们理解`float`类型的含义。在C语言中,`float`是一种32位的浮点数据...

    int 到 float 转换精度损失测试程序 C++ 源代码

    标题提及的"int到float转换精度损失测试程序C++源代码"就是一个用于检验这种精度损失的实例,它在Borland C++ 5.5编译器下成功编译并运行。 首先,我们要理解为什么会出现精度损失。在计算机内部,整数(如`int`)...

    LitJson修改版,Unity支持float数据类型

    原版LitJson库虽然功能强大,但在处理Unity中的`float`类型时可能会出现精度丢失或者无法正确识别的情况,因为Unity的`float`实际上是单精度浮点数,而JSON标准中默认使用的是双精度浮点数(`double`)。 经过修改...

    Float类型大小端转换测试程序

    本文将深入探讨浮点数在不同字节序之间的转换,主要基于提供的“Float类型大小端转换测试程序”。 标题中的“Float类型大小端转换测试程序”是一个用于验证和实现浮点数在大端和小端系统之间转换的代码。浮点数由多...

    读取文件float类型数据

    本教程将深入探讨如何在不同编程语言中读取包含float类型数据的文件。 1. **Python** 在Python中,可以使用内置的`open()`函数以二进制模式('rb')打开文件,然后使用`struct`模块来解析浮点数。例如: ```python ...

    float类型在内存中数值转换工具

    这个"float类型在内存中数值转换工具"的主要功能就是处理这些问题,它能够计算出`float`在内存中的二进制表示,将浮点数转化为内存值(如十六进制表示),同时也可以将内存值解析回浮点数。这对于跨平台编程、调试...

    float与double的范围和精度

    float和double是两种常用的浮点数类型,它们的范围和精度是由其内部存储格式决定的。了解float和double的范围和精度对于编程和数据处理非常重要。 1. 范围 float和double的范围是由指数的位数来决定的。float的...

    Labview Float类型转换为四字节Hex小vi

    符合IEEE754规则的Float类型单精度浮点数数据转换为四字节数组的实用小vi

    mobus rtu传输float 类型变量换算工具

    在进行工控数据采集时,很多设备都是使用RS485 接口传输modbus RTU协议数据,比较常见的是,传输一个字(2个bytes),但是有些变量超过了两个字节,比如float类型、int、long、double类型数据在modbus RTU传输时,该...

    HEX-Float转换工具 16进制转成float 或double类型数据的一个小工具

    特别是在处理二进制数据或者进行低级编程时,了解如何将十六进制(HEX)转换为浮点数(float)或双精度浮点数(double)至关重要。这个"HEX-Float转换工具"就是这样一个实用程序,它帮助用户方便快捷地完成这种转换...

    C语言中int到float的强制类型转换

    在项目中经常会遇到需要将int类型的数据转换为float类型的情况,这时候就需要了解它们之间转换的原理。 首先,需要了解int类型的取值范围。在一台典型的32位机器上,一个有符号的int型的取值范围为-2147483648 ~ ...

    基于C++浮点数(float、double)类型数据比较与转换的详解

    在实际开发中,为了确保较高的精度,通常建议使用`double`类型而不是`float`,特别是在涉及数值计算和转换的时候。同时,当将浮点数转换为字符串时,使用`%.8lf`作为精度设置可以提供足够的显示精度,但需注意这并不...

    详解iOS之关于double/float数据计算精度问题

    iOS 开发中,double 和 float 数据类型的计算精度问题是一个常见的问题。本篇文章将详细介绍 iOS 中 double/float 数据计算精度问题的根源、解决方案和高精度计算方法。 一、double/float 数据计算精度问题的根源 ...

    c语言float类型小数点后位数

    Float 类型的小数点后位数是一个重要的概念,它决定了浮点数的精度和范围。在本文中,我们将详细介绍 C 语言中 Float 类型小数点后位数的知识点。 Float 类型小数点后位数的定义 ----------------------------- ...

    16进制与float互转

    浮点数在计算机内部通常是按照IEEE 754标准存储的,分为32位的单精度(float)和64位的双精度(double)。float由三部分组成:符号位(1位)、指数部分(8位)和尾数部分(23位),总共32位。这些部分共同决定了...

    gmpy2-2.1.0a4.tar.gz

    同时,gmpy2的浮点数精度可以动态调整,而Python的float类型精度固定。 总结,gmpy2是Python高精度计算领域的重要工具,为开发者提供了强大而灵活的数学运算功能。无论是处理大整数、高精度浮点数,还是进行复数...

    float、double类型介绍.zip

    总结来说,float和double是编程中处理浮点数的关键数据类型,理解它们的表示方法、精度、误差和运算规则是编写高效、准确的科学计算程序的基础。在实际开发中,开发者需要根据需求来平衡精度、性能和内存消耗,合理...

    Arc2D.Float定义float 精度、两端点到圆心闭合的弧

    在Java图形绘制中,`Arc2D.Float`是`Arc2D`类的一个子类,用于表示用浮点精度定义的弧形。该类允许开发者以较高的精度创建并操作二维图形中的弧线。在Java AWT包中的`Arc2D`类提供了多种方法来绘制不同类型的弧形,...

Global site tag (gtag.js) - Google Analytics