`
clark1231
  • 浏览: 254636 次
  • 性别: Icon_minigender_1
  • 来自: 苏州
社区版块
存档分类
最新评论

Float round bug in ruby?

    博客分类:
  • ruby
阅读更多

 

ruby-1.8.7 > 1.55.round(1)
 => 1.6 
ruby-1.8.7 > 1.555.round(2)
 => 1.56 
ruby-1.8.7 > 1.155.round(2)
 => 1.16 
ruby-1.8.7 > 10.156.round(2)
 => 10.16
ruby-1.8.7 > 10.155.round(2)
 => 10.15 
ruby-1.8.7 > 10.165.round(2)
 => 10.16

 

ruby-1.9.2 > 10.155.round(2)
 => 10.15 
ruby-1.9.2 > 10.165.round(2)
 => 10.16
 

 解决方法:

1.讲数据类型转变为decimal

2.

BigDecimal.new(10.155.to_s).round(2).to_f
 

 

分享到:
评论

相关推荐

    CSS浮动属性Float详解 什么是CSS Float?

    CSS 浮动属性 Float 详解 CSS 浮动属性 Float 是一种重要的定位属性,允许页面元素浮动在其他元素旁边。Float 属性可以取四个值:Left、Right、None 和 Inherit。其中,Left 和 Right 分别浮动元素到左边和右边,...

    浅谈CSS中display/float/position属性值的相互影响

    有3个属性和布局以及box的创建有关:’display’, ‘position’ 和 ‘float’,彼此交互作用如下: 如果’display’值为’none’,则’position’ 和 ‘float’无作用。这种情况下,不生成box。 否则,如果’...

    MCQ.zip_float

    Which of the following is a valid literal of type float in Java? (a) 10.5d (b) 10.5fp (c) 10.5f (d) 10.5sp Correct answer is (c) 3. Which of the following is a list of all possible ...

    ruby语法基础教程及Ruby教程中文版和安装文件

    Ruby支持多种数据类型,包括整数(Integer)、浮点数(Float)、字符串(String)、布尔值(Boolean)和数组(Array)。例如: ```ruby # 整数 num = 123 # 浮点数 decimal = 3.14 # 字符串 greeting = "你好,...

    float pie float pie float pie float pie

    float piefloat pie float pie float pie float pie

    float2ascii.rar_acsii浮点_ascii2float_ascii转换float_float转化为ascii_转

    本文将详细探讨`float2ascii`和`ascii2float`的概念以及实现方法。 标题中的"float2ascii"指的是将浮点数转换成ASCII码的过程。在C语言中,这通常是通过标准库函数`printf`和`snprintf`来实现的,它们可以将浮点数...

    stm32f103的4字节转float和float转4字节代码

    下面我们将详细介绍如何实现4字节到float的转换以及float到4字节的转换。 首先,我们来看4字节到float的转换。在C语言中,可以使用`union`类型来完成这个任务。`union`允许我们共享同一块内存空间的不同数据类型。...

    float与16进制转换软件_float_

    标题中的“float与16进制转换软件_float_”指的是一个专门用于将浮点数(float类型)数据转换成十六进制表示的工具。在计算机科学中,浮点数是用于表示带有小数部分的数值的数据类型。它们通常在内存中以二进制格式...

    C语言头文件 FLOAT

    C语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 FLOATC语言头文件 ...

    learning-ruby.

    1. **变量和数据类型**:Ruby支持多种数据类型,包括整型(Integer)、浮点型(Float)、字符串(String)、布尔型(Boolean)以及符号(Symbol)。此外,Ruby还有数组(Array)和哈希(Hash)等复合数据类型。 2. ...

    Java NumberFormat格式化float类型的bug

    Java NumberFormat格式化float类型的bug Java NumberFormat格式化float类型的bug是Java编程中一个常见的错误。NumberFormat类是Java中一个常用的格式化数字的类,但是在格式化float类型的数字时,却会出现一些不可...

    LitJsonExt 支持 float类型

    LitJsonExt是一个针对 LitJson 库的扩展,主要目的是解决原生 LitJson 在处理 `float` 数据类型时可能存在的不支持或兼容性问题。LitJson 是一个轻量级的 JSON 库,它被广泛用于 C# 开发中,因为其性能高效、易于...

    16进制与float互转

    在计算机科学中,数据通常以不同的格式存储,其中16进制和浮点数(float)是两种常见的表示方式。16进制是一种基数为16的数字系统,常用于表示二进制数据,而浮点数则用于表示带有小数部分的数值,尤其在科学计算和...

    FastReport.v4.15 for.Delphi.BCB.Full.Source企业版含ClientServer中文修正版支持D4-XE5

    - fixed bug with Unicode in TfrxMemoView appeared in previous release - improved MAPI interface in TfrxExportMail export - fixed some problems with allpication styles XE2/XE3 - improved compatibility ...

    4BYTE转换成float型代码

    在计算机科学中,数据通常以二进制形式存储,其中浮点数(如float和double)是用于表示小数的常见类型。浮点数在内存中的表示方式遵循特定的标准,如IEEE 754。当你从一个4字节的数据块(通常代表一个32位整数)转换...

    php float不四舍五入截取浮点型字符串方法总结

    1、 float round ( float $val [, int $precision ] ) 返回将 val 根据指定精度 precision (十进制小数点后数字的数目)进行四舍五入的结果。precision 也可以是负数或零(默认值)。  echo round(4.3) //4 2、 ...

    ruby 资源(代码范例)

    2. **数据类型**:Ruby是动态类型语言,主要的数据类型包括整型(Integer)、浮点型(Float)、字符串(String)、布尔型(TrueClass和FalseClass)、数组(Array)、哈希(Hash)等。 3. **方法**:Ruby中的函数被...

    Python & Ruby 学习

    它有基本的数据类型,如整型(int)、浮点型(float)、字符串(str)和布尔型(bool)。 3. **控制流**:包括条件语句(if-else)、循环(for、while)和异常处理(try-except)。 4. **函数**:Python 提供了...

    float2bin_float_pythonfloat2bin_源码

    在Python编程语言中,将浮点数(float)转换为二进制表示是常见的操作,尤其是在处理数值计算、数据存储或通信协议时。标题“float2bin_float_pythonfloat2bin_源码”提示我们这里涉及的是一个使用Python编写的程序...

    字节和float转换小工具

    标题中的"字节和float转换小工具"是一个专门针对字节与浮点数(float)之间转换的实用程序。这个小工具设计的目标是帮助开发者高效地在字节序列和浮点数之间进行切换,这在数据传输、存储或解析二进制文件时非常有用...

Global site tag (gtag.js) - Google Analytics