`

浮点计算方法

    博客分类:
  • js
 
阅读更多

//浮点数加法运算
function FloatAdd(arg1,arg2){
 var r1,r2,m;
 try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
 try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
 m=Math.pow(10,Math.max(r1,r2))
 return (arg1*m+arg2*m)/m
}
 
//浮点数减法运算
function FloatSub(arg1,arg2){
  var r1,r2,m,n;
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
  m=Math.pow(10,Math.max(r1,r2));
  //动态控制精度长度
  n=(r1>=r2)?r1:r2;
  return ((arg1*m-arg2*m)/m).toFixed(n);
}
 
//浮点数乘法运算
function FloatMul(arg1,arg2){
 var m=0,s1=arg1.toString(),s2=arg2.toString();
 try{m+=s1.split(".")[1].length}catch(e){}
 try{m+=s2.split(".")[1].length}catch(e){}
 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
 
 
//浮点数除法运算
function FloatDiv(arg1,arg2){
  var t1=0,t2=0,r1,r2;
  try{t1=arg1.toString().split(".")[1].length}catch(e){}
  try{t2=arg2.toString().split(".")[1].length}catch(e){}
  with(Math){
  r1=Number(arg1.toString().replace(".",""))
  r2=Number(arg2.toString().replace(".",""))
  return (r1/r2)*pow(10,t2-t1);
  }
}
alert(FloatMul(9.2,100));

分享到:
评论

相关推荐

    驱动中使用整数运算模拟浮点计算的方法

    在驱动程序开发中,特别是在ARM平台的驱动程序中,由于浮点运算可能带来的性能消耗以及对硬件资源的需求,经常需要使用整数运算来模拟浮点计算。本文将深入探讨这一主题,包括Linux驱动中整数运算模拟浮点计算的策略...

    stm32硬件浮点使用方法

    STM32 硬件浮点使用方法 STM32 中的浮点运算是指对浮点数进行运算的能力,浮点数是一种数据类型,它可以表示很大的数值范围。浮点运算在 STM32 中是通过硬件浮点单元(FPU)来实现的。 在 STM32F4 中,FPU 是一个...

    浮点运算方法和浮点运算器

    浮点运算方法和浮点运算器是计算机科学中处理浮点数的重要组成部分,它们涉及到浮点数的加法、减法以及其他数学运算的实现。浮点数是一种用于表示较大或较...理解这些概念对于理解和优化计算机的浮点计算性能至关重要。

    浮点计算编程原理、实现与应用

     1.1 计算有什么用?  1.1.1 基础科学  1.1.2 应用科学  1.1.3 工程项目  1.1.4 日常生活  1.2 超高精度计算有什么用?  1.3 计算编程概述  1.4 一些缩写的解释 第1部分 原理与实现:通用仿真库  ...

    Java实现的浮点类的精确计算

    为了克服这个问题,Java提供了`java.math.BigDecimal`类,它提供了一种方法来进行高精度的十进制计算,从而避免浮点运算中的精度问题。 描述中的"Java实现的浮点类的精确计算"很可能就是指一个自定义的工具类,该类...

    浮点计算误差分析——我自己写的

    "浮点计算误差分析" 浮点计算误差分析是...浮点计算误差分析是一个非常重要的主题,它揭示了浮点数在计算机内部的存储和运算中的误差来源,并提供了 IEEE754 标准和精确计算方法,以便更好地理解和应用浮点计算。

    浅谈linux kernel对于浮点运算的支持

    浮点运算单元通常用于处理浮点数计算,提高科学计算和图形处理等领域的效率。 对于带有FPU的处理器,如X86架构,Linux内核默认使用`-msoft-float`编译选项,这意味着内核编译为软浮点程序,即依赖于GCC编译器模拟...

    基于字符串的高精度浮点计算实现

    在计算机科学中,浮点计算通常使用IEEE 754标准来表示和处理,但这种标准在处理极端情况或需要极高精度的计算时,可能会出现精度...在开发过程中,理解和实现这种计算方法可以帮助我们创建更准确、更可靠的软件系统。

    计算方法(李桂成编着)习题解答

    《计算方法》是数学与计算机科学领域的一门重要课程,主要研究如何利用数值计算方法解决实际问题。李桂成编著的《计算方法》是一本深入浅出的教材,涵盖了广泛的计算理论和技术。该压缩包包含的习题解答文档,为学习...

    数值分析计算方法.pdf

    《数值分析计算方法》涉及到的是在计算机科学中处理数学计算的一种方法,主要关注如何通过有限的数字运算近似地解决连续数学问题。本文件中的实验内容涵盖了数值计算中的一些基本概念和技术,包括序列求和、插值以及...

    MCS51浮点计算程序.zip_51 浮点_51单片机_浮点_浮点数_浮点数转换

    浮点计算通常涉及更复杂的数学操作,如小数部分的处理和指数计算,这需要更多的硬件资源。然而,通过编写特定的子程序,我们可以实现浮点数的运算和转换,以满足需要浮点计算的应用场景。 "MCS51浮点计算程序.zip...

    计算方法(计算机专业课PPT及代码C语言实现和试题)

    计算方法是计算机科学中一门非常重要的基础课程,它主要研究如何用数值或非数值的方式解决数学问题,并在计算机上实现这些方法。这门课程通常包括数值分析、算法设计与分析等多个方面,对于计算机专业的学生来说,...

    基于FPGA的卷积神经网络定点加速.pdf

    实验结果表明,通过定点量化后的CNN模型在保证精度损失很小的前提下,相比于传统浮点计算方法,具有更高的运算速度和更低的资源消耗。具体来说,权值参数和输入特征图量化到7位精度时,加速比达到了18.69倍,同时...

    在Linux平台上用多线程方法实现浮点向量的点积计算

    在Linux平台上用多线程方法实现浮点向量的点积计算: 点积规则可以自己定,程序中采用的是ai=bi=-1/1/0(按3取余运算),另外,计算程序运行时间. 输入格式为: vec_mul thread_num N 参数: thread_num:线程数,从1到...

    js中浮点类型数据的计算

    js中浮点类型数据的计算 7.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)  我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998  怎么会这样,两个只有一位小数的数字...

    数值计算方法——误差分析.pdf

    数字计算方法,简称数值计算,是信息与计算科学专业中的核心内容,也是数学的一个分支。它主要研究各类数学问题的数值解法,这些方法能够通过计算机实现,并要求理论可靠、计算复杂性低。在学习数值计算方法时,首先...

    stc15系列单片机浮点运算性能测试

    本文将详细探讨STC15系列单片机的浮点运算性能及其测试方法。 首先,STC15系列单片机并不像高级处理器那样内置浮点运算单元(FPU),这意味着它们进行浮点运算主要依赖软件模拟。这些模拟通常由编译器通过扩展指令...

    --计算方法--ppt

    1. **数值计算**:数值计算是计算方法的基础,包括浮点运算、近似计算和误差分析。理解浮点数表示法及其精度限制对于避免计算误差至关重要。 2. **线性代数计算**:线性代数在数据分析、机器学习和图形处理等领域...

    S7-200SMART 双精度浮点型数据转换为单精度浮点型的方法.pdf

    本文件详细介绍了如何在S7-200 SMART PLC中使用特定的程序块(LReal2Real)将双精度浮点数据转换为单精度浮点数据的方法。转换过程中,需要将双精度浮点数的高位(DoubleHi)和低位(DoubleLo)字分别处理。由于文档...

    计算方法课程作业

    在“计算方法课程作业”这个主题中,我们探讨了一系列与计算方法相关的理论和技术,这些方法在计算机科学,工程,数学等领域都有广泛应用。计算方法是研究数值计算问题的学科,主要关注如何利用计算机来解决数学问题...

Global site tag (gtag.js) - Google Analytics