`
弦上的福音
  • 浏览: 21925 次
  • 性别: Icon_minigender_1
  • 来自: 南京
社区版块
存档分类
最新评论

3位有效数字

    博客分类:
  • java
阅读更多
/**
	 * 实现3位有效数字
	 * @param data 
	 * @return
	 */
	public  String YXSZ(String data){
		String rlt=data;
		double oriData=0;
		try {
			oriData=Double.valueOf(data);
		} catch(Exception e) {
			return rlt;
		}
		
		if(oriData==0) {
			rlt="0.00";
		}
		else if (oriData<10){
			DecimalFormat df=new DecimalFormat("0.00");
			rlt=df.format(oriData);
		}
		else if (oriData<100){
			DecimalFormat df=new DecimalFormat("0.0");
			rlt=df.format(oriData);
			if(Double.parseDouble(rlt) == 100)
			{
				rlt = "100";
			}
		}
		else if (oriData<1000){
			DecimalFormat df=new DecimalFormat("0");
			rlt=df.format(oriData);
		}
		else if (oriData<10000){
			String str=data.substring(0, 3)+"0";
			int d=Integer.valueOf(str);
			if (oriData-d<5) {
				rlt=str;
			}
			else {
				rlt=String.valueOf(d+10);
			}
		}
		else if (oriData<100000000){
			String str=String.valueOf(oriData).substring(0, 3)+"00";
			int d=Integer.valueOf(str);
			if (oriData-d<50) {
				rlt=str;
			}
			else {
				rlt=String.valueOf(d+100);
			}
		};
		return rlt;
	}
	

 

分享到:
评论

相关推荐

    定量分析中的误差及有效数字练习题

    例如,1.05499保留三位有效数字后为1.05,4.715保留三位有效数字后为4.72。 - 数据的有效位数取决于最末位非零数字及其后的所有零。 5. **精密度与准确度**: - 精密度描述的是多次测量结果的一致性,如标准偏差...

    第三节有效数字及其运算规则.ppt

    例如,0.5180和0.51800都包含四位有效数字,而0.0518和5.18×10^-2则分别包含三位有效数字。值得注意的是,数字前面的零不被视为有效数字,除非它们位于数字的左边且在小数点之前。中间和后面的零,即使是零,也是...

    有效数字运算规则PPT学习教案.pptx

    例如,0.3180有四位有效数字,而0.0318虽然看起来有四位,但由于最前面的零仅起到定位作用,因此只有三位有效数字。值得注意的是,改变数字的单位并不会影响有效数字的位数,如19.02 mL转换为19.02×10^-3 L,有效...

    有效数字及运算规则[定义].pdf

    例如,22.4 L保留三位有效数字,无论是22.4×10³ mL还是2.24×10⁴ mL,都保持三位有效数字。 4. **有效数字的修约规则**: 当计算结果涉及多个测量值且有效数字位数不同时,需要进行修约。修约遵循“四舍六入五...

    有效数字、数值修约及运算法则.ppt

    例如,3.2、0.32、0.032、0.0032均为两位有效数字,0.0320为三位有效数字,10.00为四位有效数字,12.490为五位有效数字。 需要注意的是,当有效数字的首位数字为8或9时,其有效位数可以多计一位。例如,85%、115%均...

    数据处理有效数字及其运算规则PPT学习教案.pptx

    通过课堂练习,我们可以检验对有效数字的理解,例如:0.1000有4位有效数字,20.78%有3位有效数字,0.0526有1位有效数字,3.59×10^-6有3位有效数字,0.02有1位有效数字,而1×10^3的有效数字位数不确定。在进行修约...

    物理实验绪论有效数字运算PPT课件.pptx

    例如,7.98 mm和0.00798 m都包含三位有效数字,即使0.00798 m的小数点前有多个零,这些零也被视为有效数字,因为它们代表了测量的精度。值得注意的是,有效数字的位数与小数点的位置无关,而是从第一个非零数字开始...

    有效数字及其运算规则案例PPT学习教案.pptx

    例如,5.0643、0.3746、0.3745、0.3735均可以修约至三位有效数字。四舍六入五成双规则是最常用的修约规则,即四舍六入五成双。 三、有效数字的运算法则 有效数字的运算法则是指在进行计算时,需要考虑有效数字位数...

    js要四舍五入且保留两位或N位有效数字或取整.pdf

    // 保留两位有效数字 console.log(num); // 输出 "123.46" let num1 = 123.456; num1 = num1.toFixed(0); // 取整 console.log(num1); // 输出 "123" ``` 注意,`toFixed()` 的缺点在于它总是四舍五入,...

    有效数字修约与运算法则.doc

    7. 有效数字的首位数字为 8 或 9 时,其有效位数可以多计一位,例如:85%与 115%,都可以看成是三位有效数字;99.0%与 101.0%都可以看成是四位有效数字。 数字修约与其取舍规则: 1. 数字修约是指拟修约数值中超出...

    实验数据处理中有效数字运算规则.pdf

    例如,计算结果533.35523.31.32842.115265.19.116,各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则,计算结果应保留三位有效数字和四位有效数字。 乘除运算 在乘除运算中...

    物理实验绪论有效数字运算PPT学习教案.pptx

    例如,7.98 mm和0.00798 m都是三位有效数字。值得注意的是,即使是零,只要它位于非零数字之后,也属于有效数字。例如,0.0079800 m的有效数字位数是七位,因为从第一个非零数字7开始计数,直到最后一个0。 在单位...

    有效数字与运算规则PPT学习教案.pptx

    例如,0.5180有5位有效数字,而0.0518则有3位有效数字。 2. 零的作用: 零在有效数字中有两种角色:一是作为普通数字参与计数,如0.5180;二是作为定位符,如0.0518,其中的前导零仅用于定位,不影响有效数字的数量...

    有效数字及运算法则PPT学习教案.pptx

    在测量物体长度的例子中,例如L1=、L2=3.4、3.45、6等,这些测量结果都被认为是三位有效数字,因为它们由一个可靠的整数部分和两个可疑的小数部分组成。 关于有效数字的位数,有几个关键点需要注意。首先,"0"的...

    色环电阻的色标表示方法和口诀

    三位有效数字的阻值色标表示方法: 标称值第1位有效数字 标称值第2位有效数字 标称值第3位有效数字 标称值有效数字后零的个数 允许偏差 该电阻器的阻值为24*10^3(±5%)=24KΩ(±5%) 第二款:五色环...

    有效数字运算及修约.ppt

    如果是一个精确到千位的测量值,则有3位有效数字;如果是在更精确的测量中得到的,则可能有4位有效数字。 对于科学实验中常用的倍数和分数关系数据,如pH和pM值,其有效数字位数的判定依据是小数点后的位数。例如,...

    20位有效数字计算器程序设计文档-V2.6

    《20位有效数字计算器程序设计文档-V2.6》 该文档详述了一个20位有效数字计算器的实现方案,旨在提供一个高效且精确的计算工具,支持高精度数值运算。计算器的设计遵循了三层架构,分别是显示层、数据转换层和计算...

Global site tag (gtag.js) - Google Analytics