`

toFloat转浮点函数(精度)

F# 
阅读更多
/**
		 * 将字符串或数字转换为指定精度的浮点数
		 * 
		 * @param F{String ||
		 *            Number} 要转换的字符串或浮点数
		 * @param len{Integer}
		 *            精度,默认小数点后两位
		 * @param returnNull{Boolean}
		 *            当F为非数字字符串时,返回null或原字符串,默认返回原字符串
		 */
		toFloat : function (F, len, returnNull) {
			len = len >= 0 ? len : 2;
			var f = parseFloat(F),nf;
			var offset = 0;
			if(!isNaN(f)){
				var str = f.toString().split(".");
				if(str.length==2){
					if(str[1].length > len){
						var si = parseInt(str[1].substr(0,len))+parseFloat("0." + str[1].charAt(len));
						str[1] = Math.round(si).toString();
						if(str[1].length > len){
							offset = 1;
							str[1]=str[1].substr(1,len);
						}
					}
				}
				str[0] = parseInt(str[0])+offset;
				nf = str.length > 1 && len!==0 ? str.join(".") : str[0];
			}
			return nf ? nf : (returnNull ? null : F);
		},
分享到:
评论

相关推荐

    matlab.zip_Gonzalez_intrans_intrans函数_tofloat

    `tofloat`函数的主要作用是将输入的数据(可能是整型或逻辑类型)转换为浮点型。在MATLAB中,浮点型数据提供了更高的精度,这对于进行精确的计算和处理非常重要。例如,如果你有一个整型数组代表图像像素值,使用`to...

    tofloat1_matlabtofloat.m函数_

    `tofloat1_matlabtofloat.m` 函数是 MATLAB 中一个自定义的转换函数,用于将数据转换为浮点格式。在 MATLAB 中,处理数值时,我们经常需要将数据转换成不同的类型,如整型、单精度浮点型(float32)或双精度浮点型...

    64位16进制字符串to双精度浮点数_labview_64位浮点_双精度_源码.zip

    这些函数通常会先将16进制字符串解析成二进制,然后按照IEEE 754标准重构双精度浮点数的结构,最后得到对应的浮点数值。 在源码中,可能包含了以下步骤: 1. **解析16进制字符串**:LabVIEW可能使用字符串处理函数...

    tofloat1_matlabtofloat.m函数_源码.zip

    `tofloat1_matlabtofloat.m` 是一个MATLAB编写的函数,主要功能是将数据转换为浮点型。在MATLAB中,处理数值时,浮点型数据是非常常见的一种类型,它允许存储小数部分,这对于科学计算和精确表示数字至关重要。下面...

    用四个字节十六进制数表示单精度浮点数1

    在单片机(如STM32)或非.NET环境下,可能无法直接使用.NET框架提供的`BitConverter`类,因此需要编写自定义的转换函数,例如上面的`ToFloat`和`ToByte`方法,它们分别用于将字节数组转换为浮点数和将浮点数转换为...

    单精度浮点数与十六进制转换_C语言程序

    这个过程在代码中通过`Hex_To_Decimal()`函数实现,虽然函数体被注释掉了,但其意图是明确的——将十六进制数解析为二进制,然后将其视为一个浮点数。 ### C语言实现细节 C语言提供了强大的指针操作功能,使得这种...

    zx.rar_float to hex_浮点型用HEX_浮点数_浮点数转hex

    本文将详细探讨如何将浮点型数据转换为十六进制表示,以便于理解和处理。 浮点数(Float)是用于表示带有小数的数值,通常采用IEEE 754标准进行编码。此标准定义了单精度(32位)和双精度(64位)两种浮点数格式。...

    4字节16进制数转换为float浮点数的原理及Qt算法实现示例

    以下是一个简单的C++函数实现,用于将4字节的十六进制数转换为float: ```cpp #include #include float hexToFloat(const std::uint32_t hexValue) { // 1. 将16进制转换为32位二进制 std::uint32_t binary = ...

    半精度浮点格式数据运算程序

    这里的`half_to_float`和`float_to_half`是辅助函数,用于在半精度和单精度浮点数之间进行转换。对于乘法、除法和减法,也可以采用类似的方法,但可能需要处理更多的边界条件和溢出问题。 为了优化代码,我们可以...

    IEEE754 浮点型数据(单精度)转字符型数组实例

    在提供的压缩包文件“float to char”中,可能包含了进行这种转换的源代码。这些代码可能包括了上述步骤的具体实现,通过阅读和理解代码,我们可以深入理解浮点数与字符数组之间的转换机制。这在处理二进制数据存储...

    c#,十六进制转换成浮点数

    C#中的`float`对应单精度,`double`对应双精度。 - **单精度转换**:对于单精度浮点数,可以使用`BitConverter.Single`方法,将32位整数转换为浮点数。首先,需要确保整数是以正确的字节顺序(大端或小端)表示的...

    S7-200SMART 64位浮点数转32位浮点数(源文件+库文件+程序注释).rar

    "double to float"转换的核心在于如何将64位浮点数的数据结构转化为32位浮点数的数据结构。这个过程通常包括以下几个步骤: 1. 解析64位浮点数:首先,我们需要根据IEEE 754标准,解读64位浮点数的二进制表示,包括...

    C#实现十六进制转换成浮点数

    在计算机内部,浮点数通常是用IEEE 754标准来存储的,分为单精度(float)和双精度(double)两种。单精度浮点数占32位,双精度浮点数占64位。其中,一部分位用来存储符号、指数和尾数,这些部分共同决定了浮点数的...

    float型数字转换为英文

    浮点型在Python中遵循IEEE 754标准,分为单精度(float32)和双精度(float64)两种,通常默认使用的是双精度。 要将浮点型数字转换为英文,我们需要考虑以下几个关键点: 1. **整数部分**:整数部分的转换相对...

    单精度浮点数与四字节十六进制数据的转换(左低右高)

    在实际操作中,可以利用编程语言提供的内置函数(如Python的`struct`模块或C++的`std::hex`和`std::bit_cast`)来便捷地完成这些转换。熟练运用这些知识,能够帮助我们在处理二进制数据时游刃有余。

    float-to-hex.zip_float_float linux_float 转hex_hex float

    这段代码中,`float_to_hex` 函数接收一个浮点数作为参数,通过 `std::ostringstream` 创建一个字符串流,然后使用一系列的操纵符(`std::hex`, `std::showbase`, `std::setprecision(8)` 和 `std::uppercase`)将...

    Test_int_to_float.rar_float_float linux

    这个"Test_int_to_float.rar_float_float linux"的标题和描述暗示我们关注的是在Linux环境下将整型(int)数据转换为浮点型(float)数据的过程。在这个场景中,我们可能会涉及到C语言,因为压缩包中的文件"Test_int...

    51单片机浮点运算子程序库

    单次二进制浮点超越函数运算的精度优于万分之一;BCD码浮点数本身的精度较低(万分之一到千分之一),不适合作为运算的操作数,主要用于输入或输出时的数制转换。随着连续运算的次数增加,精度会有所下降。 5. **...

    C# 按照IEEE 754标准对Float和Double类型进行转换

    `float`是单精度浮点型,占用32位内存空间,能够表示大约6到9位十进制小数的精度;而`double`是双精度浮点型,占用64位内存,提供更高的精度,可以表示大约15位十进制小数的精度。 按照IEEE 754标准,`float`的32位...

    C# IEEE754浮点数转换示例代码

    例如,下面给出了两个函数`HexToFloat`和`IEEE754Float`,它们分别用于从十六进制字符串和字节数组中提取浮点数值。 ```csharp public static string HexToFloat(string strHex) { // ... (代码省略) } public ...

Global site tag (gtag.js) - Google Analytics