<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
<title> JS 浮点计算精度问题 </title>
</head>
<body>
<script type="text/javascript">
<!--
function accDiv(arg1, arg2) {
var t1 = 0, t2 = 0, t3 = 0, r1, r2;
try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
if (r2 == 0)
return 0;
var result = String(r1 / r2);
try { t3 = result.toString().split(".")[1].length } catch (e) { }
var index = t2 - t1 - t3;
if (index < 0) {
result = result.replace(".", "");
while (result.length <= Math.abs(index)) {
result = '0' + result;
}
var start = result.substring(0, result.length + index);
var end = result.substring(result.length + index, result.length);
result = start + '.' + end;
return Number(result);
}
else if (index > 0) {
result = result.replace(".", "");
while (result.length <= Math.abs(index)) {
result += '0';
}
return Number(result);
}
else return Number(result.replace(".", ""));
}
//给Number类型增加一个div方法，调用起来更加方便。
Number.prototype.div = function (arg) {
/// <summary>
/// 除法
/// </summary>
return accDiv(this, arg);
}
function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try { m += s1.split(".")[1].length } catch (e) { }
try { m += s2.split(".")[1].length } catch (e) { }
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
Number.prototype.mul = function (arg) {
/// <summary>
/// 乘法
/// </summary>
return accMul(arg, this);
}
function accAdd(arg1, arg2) {
var r1, r2, m, c;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2))
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
}
else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
}
else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m
}
Number.prototype.add = function (arg) {
/// <summary>
/// 加法
/// </summary>
return accAdd(arg, this);
}
// 除法，两种写法，都可以，其他一样
alert(accDiv(2.1,10));
alert(2.1.div(10));
// 乘法
alert(accMul(2.1,0.01));
//-->
</script>
</body>
</html>
分享到：
相关推荐
5. **使用BigDecimal类**：在某些高级应用中，可以考虑使用类似Java的`BigDecimal`类，它提供了高精度的浮点数运算，但JavaScript原生并不支持，可能需要引入第三方库。 理解JavaScript浮点数计算的局限性并采用...
在这个例子中，由于`'a'`是字符，而`i * f`是浮点运算，结果的类型将是双精度类型`double`。 ### 22. 控件的功能区分 **知识点**：在GUI程序设计中，不同的控件有不同的功能。 **描述**：窗体本身并不是一个输入...
- `resultNum`：双精度浮点型变量，用于存储计算过程中的中间结果。 - `operator`：字符串类型变量，存储当前的运算符。 - `operateValidFlag`：布尔变量，标记操作是否有效。 #### 构造方法 - 初始化窗口属性，如...
- **精度问题**：浮点运算可能遇到精度损失问题。 ##### 3.9 PHP数据类型自动转换 - **示例**：将字符串`"123"`自动转换为整型`123`。 - **转换规则**：根据上下文自动进行转换。 ##### 3.10 表达式 - **定义**：...
- **Double**：双精度浮点类型，用于存储实数数据。 - **Array**：数组类型，用于存储一系列值。 - **Timestamp**：时间戳类型，记录文档的创建时间。 - **Object**：嵌入式文档类型，用于存储其他文档作为字段。 - ...
FreeMarker对空值的处理非常严格,FreeMarker的变量必须有值,没有被赋值的变量就会抛出异常,因为FreeMarker未赋值 的变量强制出错可以杜绝很多潜在的错误,如缺失潜在的变量命名,或者其他变量错误.这里所说的空值,...