`

float计算精度

    博客分类:
  • java
 
阅读更多

       

1、结果保留一位小数:

        float a = (float) 15.3;

    float b = (float) 18.6;

    DecimalFormat df = new  DecimalFormat("##0.0");  //结果保留一位小数

    if(a >= b){

    System.out.println("a大"+df.format(a-b));

    }else{

    System.out.println("b大"+df.format(b-a));

    }

 

结果:b大3.3

 

2、结果不保留

       float a = (float) 15.3;

    float b = (float) 18.6;

    DecimalFormat df = new  DecimalFormat("##0.0");  //结果保留一位小数

    if(a >= b){

    System.out.println("a大"+(a-b));

    }else{

    System.out.println("b大"+(b-a));

    }

 

结果:b大3.3000002

分享到:
评论

相关推荐

    详解iOS之关于double/float数据计算精度问题

    iOS 之关于 double/float 数据计算精度问题详解 iOS 开发中,double 和 float 数据类型的计算精度问题是一个常见的问题。本篇文章将详细介绍 iOS 中 double/float 数据计算精度问题的根源、解决方案和高精度计算...

    float double精度的详细解释

    ### float与double精度详解 #### 一、浮点数的基础概念 ...了解`float`和`double`的区别及其内部表示方式,有助于开发者在选择合适的数据类型时做出正确的决策,尤其是在涉及高精度计算或大范围数值时尤为重要。

    js计算精度问题解决方案

    在JavaScript编程语言中,计算精度问题是一个...如果压缩包中的"js-float-accuracy-master"库提供了实用的解决方案,那么它可能包含了一些优化的算法或工具,以帮助开发者更好地处理JavaScript中的浮点数计算精度问题。

    int 到 float 转换精度损失测试程序 C++ 源代码

    标题提及的"int到float转换精度损失测试程序C++源代码"就是一个用于检验这种精度损失的实例,它在Borland C++ 5.5编译器下成功编译并运行。 首先,我们要理解为什么会出现精度损失。在计算机内部,整数(如`int`)...

    浮点数转化器,单精度浮点计算软件,FLOAT转HEX

    浮点数转化器,单精度浮点计算软件,FLOAT转HEX

    float与double的范围和精度

    在实际应用中,float和double的精度对计算结果的准确性产生了重要的影响。例如,在科学计算和数据分析中,需要使用double类型来保证足够的精度。 3. Oracle中的Number类型 在Oracle中,Number类型可以用来存储0、...

    iOS 解决floatValue,doubleValue等计算不精确问题,一句话解决精确计算,精确比较

    2. **使用高精度浮点数库**:如果你需要进行非常精确的浮点数计算,可以考虑使用高精度浮点数库,如BigFloat。这些库提供了基于任意精度算术的浮点数类型,可以避免因浮点数精度限制带来的误差。 3. **格式化输出**...

    Arc2D.Float定义float 精度、两端点到圆心闭合的弧

    在Java AWT包中的`Arc2D`类提供了多种方法来绘制不同类型的弧形,而`Arc2D.Float`则专注于使用浮点数进行精确计算。 #### 二、Arc2D.Float构造函数详解 在提供的代码片段中,`Arc2D.Float`类通过以下构造函数实例...

    16进制与float互转

    浮点数在计算机内部通常是按照IEEE 754标准存储的,分为32位的单精度(float)和64位的双精度(double)。float由三部分组成:符号位(1位)、指数部分(8位)和尾数部分(23位),总共32位。这些部分共同决定了...

    float2hex 浮点二进制整型数据计算工具

    浮点二进制整型数据计算工具,如`float2hex`,是计算机科学中用于处理和转换浮点数到十六进制表示的关键工具。在编程和数据分析领域,理解和掌握这种转换过程至关重要,因为计算机内部是以二进制形式存储所有数据的...

    float2ascii.rar_acsii浮点_ascii2float_ascii转换float_float转化为ascii_转

    对于开发者来说,验证转换的正确性和效率是至关重要的,因为浮点数的精度和表示范围可能会导致一些复杂情况。 标签中的"ascii2float"则代表了反向操作,即将ASCII表示的浮点数字符串转换回原始的浮点数。在C语言中...

    android EditText单价(Int)与数量(Float)自动相乘 保留两位小数

    在Android开发中,经常需要处理用户输入的数据,例如在电商应用中,用户可能需要输入商品的单价和数量,系统则需要实时计算总价并显示。在这个场景下,`EditText`控件通常用于接收用户输入,而单价通常是整数(Int...

    计算机单片机float存储格式(讲得很好)

    计算机中的浮点数存储是计算机科学中的一个重要概念,主要用于处理数值计算中的大范围和高精度数值。浮点数的存储格式通常遵循国际电气电子工程师协会(IEEE)制定的标准,即IEEE 754标准。该标准定义了浮点数如何在...

    HEX-Float转换工具 16进制转成float 或double类型数据的一个小工具

    "HEX-Float转换工具"的操作流程可能是这样的:用户输入一个16进制数字,工具会先将该数字转换为二进制,接着解析出符号位、指数位和尾数位,依据IEEE 754标准计算出对应的浮点或双精度浮点数。对于double类型的转换...

    float类型在内存中数值转换工具

    这个"float类型在内存中数值转换工具"的主要功能就是处理这些问题,它能够计算出`float`在内存中的二进制表示,将浮点数转化为内存值(如十六进制表示),同时也可以将内存值解析回浮点数。这对于跨平台编程、调试...

    float2bin_float_pythonfloat2bin_源码

    在Python编程语言中,将浮点数(float)转换为二进制表示是常见的操作,尤其是在处理数值计算、数据存储或通信协议时。标题“float2bin_float_pythonfloat2bin_源码”提示我们这里涉及的是一个使用Python编写的程序...

    字节和float转换小工具

    通常,32位的float(也称为单精度浮点数)可以表示大约6到9个有效数字,而64位的double(双精度浮点数)则可以表示更多的精度。 字节,另一方面,是计算机处理信息的基本单位,一个字节通常包含8位二进制数。当...

    深入理解单精度浮点运算

    3. **使用更高精度的数据类型**:在某些情况下,如果单精度浮点数无法满足精度要求,可以考虑使用双精度浮点数或者更高精度的数据类型进行计算。 4. **错误分析**:通过理论分析和实验验证,评估算法在特定应用中的...

    Hex to Float converter

    IEEE 754标准是浮点数计算的国际标准,它规定了浮点数的存储格式,包括单精度(32位)和双精度(64位)等。32位的浮点数按照IEEE 754标准,分为以下几个部分: 1. **符号位(Sign)**:1位,0表示正数,1表示负数。...

Global site tag (gtag.js) - Google Analytics