`
clark1231
  • 浏览: 255360 次
  • 性别: Icon_minigender_1
  • 来自: 苏州
社区版块
存档分类
最新评论

Float round bug in ruby?

    博客分类:
  • ruby
阅读更多

 

ruby-1.8.7 > 1.55.round(1)
 => 1.6 
ruby-1.8.7 > 1.555.round(2)
 => 1.56 
ruby-1.8.7 > 1.155.round(2)
 => 1.16 
ruby-1.8.7 > 10.156.round(2)
 => 10.16
ruby-1.8.7 > 10.155.round(2)
 => 10.15 
ruby-1.8.7 > 10.165.round(2)
 => 10.16

 

ruby-1.9.2 > 10.155.round(2)
 => 10.15 
ruby-1.9.2 > 10.165.round(2)
 => 10.16
 

 解决方法:

1.讲数据类型转变为decimal

2.

BigDecimal.new(10.155.to_s).round(2).to_f
 

 

分享到:
评论

相关推荐

    CSS浮动属性Float详解 什么是CSS Float?

    CSS 浮动属性 Float 详解 CSS 浮动属性 Float 是一种重要的定位属性,允许页面元素浮动在其他元素旁边。Float 属性可以取四个值:Left、Right、None 和 Inherit。其中,Left 和 Right 分别浮动元素到左边和右边,...

    浅谈CSS中display/float/position属性值的相互影响

    有3个属性和布局以及box的创建有关:’display’, ‘position’ 和 ‘float’,彼此交互作用如下: 如果’display’值为’none’,则’position’ 和 ‘float’无作用。这种情况下,不生成box。 否则,如果’...

    MCQ.zip_float

    Which of the following is a valid literal of type float in Java? (a) 10.5d (b) 10.5fp (c) 10.5f (d) 10.5sp Correct answer is (c) 3. Which of the following is a list of all possible ...

    ruby语法基础教程及Ruby教程中文版和安装文件

    Ruby支持多种数据类型,包括整数(Integer)、浮点数(Float)、字符串(String)、布尔值(Boolean)和数组(Array)。例如: ```ruby # 整数 num = 123 # 浮点数 decimal = 3.14 # 字符串 greeting = "你好,...

    float pie float pie float pie float pie

    float piefloat pie float pie float pie float pie

    float2ascii.rar_acsii浮点_ascii2float_ascii转换float_float转化为ascii_转

    本文将详细探讨`float2ascii`和`ascii2float`的概念以及实现方法。 标题中的"float2ascii"指的是将浮点数转换成ASCII码的过程。在C语言中,这通常是通过标准库函数`printf`和`snprintf`来实现的,它们可以将浮点数...

    stm32f103的4字节转float和float转4字节代码

    下面我们将详细介绍如何实现4字节到float的转换以及float到4字节的转换。 首先,我们来看4字节到float的转换。在C语言中,可以使用`union`类型来完成这个任务。`union`允许我们共享同一块内存空间的不同数据类型。...

    float与16进制转换软件_float_

    标题中的“float与16进制转换软件_float_”指的是一个专门用于将浮点数(float类型)数据转换成十六进制表示的工具。在计算机科学中,浮点数是用于表示带有小数部分的数值的数据类型。它们通常在内存中以二进制格式...

    C语言头文件 FLOAT

    C语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 ...

    learning-ruby.

    1. **变量和数据类型**:Ruby支持多种数据类型,包括整型(Integer)、浮点型(Float)、字符串(String)、布尔型(Boolean)以及符号(Symbol)。此外,Ruby还有数组(Array)和哈希(Hash)等复合数据类型。 2. ...

    Java NumberFormat格式化float类型的bug

    Java NumberFormat格式化float类型的bug Java NumberFormat格式化float类型的bug是Java编程中一个常见的错误。NumberFormat类是Java中一个常用的格式化数字的类,但是在格式化float类型的数字时,却会出现一些不可...

    16进制与float互转

    在计算机科学中,数据通常以不同的格式存储,其中16进制和浮点数(float)是两种常见的表示方式。16进制是一种基数为16的数字系统,常用于表示二进制数据,而浮点数则用于表示带有小数部分的数值,尤其在科学计算和...

    FastReport.v4.15 for.Delphi.BCB.Full.Source企业版含ClientServer中文修正版支持D4-XE5

    - fixed bug with Unicode in TfrxMemoView appeared in previous release - improved MAPI interface in TfrxExportMail export - fixed some problems with allpication styles XE2/XE3 - improved compatibility ...

    LitJsonExt 支持 float类型

    LitJsonExt是一个针对 LitJson 库的扩展,主要目的是解决原生 LitJson 在处理 `float` 数据类型时可能存在的不支持或兼容性问题。LitJson 是一个轻量级的 JSON 库,它被广泛用于 C# 开发中,因为其性能高效、易于...

    4BYTE转换成float型代码

    在计算机科学中,数据通常以二进制形式存储,其中浮点数(如float和double)是用于表示小数的常见类型。浮点数在内存中的表示方式遵循特定的标准,如IEEE 754。当你从一个4字节的数据块(通常代表一个32位整数)转换...

    php float不四舍五入截取浮点型字符串方法总结

    1、 float round ( float $val [, int $precision ] ) 返回将 val 根据指定精度 precision (十进制小数点后数字的数目)进行四舍五入的结果。precision 也可以是负数或零(默认值)。  echo round(4.3) //4 2、 ...

    ruby 资源(代码范例)

    2. **数据类型**:Ruby是动态类型语言,主要的数据类型包括整型(Integer)、浮点型(Float)、字符串(String)、布尔型(TrueClass和FalseClass)、数组(Array)、哈希(Hash)等。 3. **方法**:Ruby中的函数被...

    Python & Ruby 学习

    它有基本的数据类型,如整型(int)、浮点型(float)、字符串(str)和布尔型(bool)。 3. **控制流**:包括条件语句(if-else)、循环(for、while)和异常处理(try-except)。 4. **函数**:Python 提供了...

    float2bin_float_pythonfloat2bin_源码

    在Python编程语言中,将浮点数(float)转换为二进制表示是常见的操作,尤其是在处理数值计算、数据存储或通信协议时。标题“float2bin_float_pythonfloat2bin_源码”提示我们这里涉及的是一个使用Python编写的程序...

    HEX转FLOAT软件

    HEX转FLOAT软件 可以将一个4字节的HEX数据,转换成float数据。 界面简单,操作方便。 绿色软件不需要安装,下载即可使用。

Global site tag (gtag.js) - Google Analytics