分析实验中的有效数字
- 提问者网友:最爱你的唇
- 2021-06-05 09:44
- 五星知识达人网友:第幾種人
- 2021-06-05 10:23
数值修约规则(GB 8170-87)
Rules for rounding off of nulnberical values
本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。
1 术语
1.1 修约间隔
系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例l:如指定修约间隔为0.l,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。
1.2 有效位数
对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数,对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。
例1:35000,若有两个无效零,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。
例2:3.2 , 0.32 , 0.032 , 0.0032均为两位有效位数;0.0320为三位有效位数。
例3:12.490为五位有效位数;10.00为四位有效位数。
1.3 0.5单位修约(半个单位修约)
指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。
例如,将60.28修约到个数位的0.5单位,得60.5 (修约方法见本规则5.1)。
1.4 0.2单位修约指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2 单位。
例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2)。
2 确定修约位数的表达方式
2.1 指定数位
a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
b.指定修约间隔为l,或指明将数值修约到个数位;
c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”,“百”,“千”…… 数位。
2.2 指定将数值修约成n位有效位数。
3 进舍规则
3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例l:将12.1498修约到一位小数,得12.1。
例2:将12.1 498修约成两位有效位数,得12。
3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。
例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。
例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。
例3:将10.502修约到个数位,得110
注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。
3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
例l:修约间隔为0.1(或10-1)
拟修约数值 | 修约值 | |
1.050 | 1.0 | |
0.350 | 0.4 |
例2:修约间隔为1000(或103)
拟修约数值 | 修约值 | |
2500 | 2×103(特定时可写为2000) | |
3500 | 4×103(特定时可写为4000) |
例3:将下列数字修约成两位有效位数
拟修约数值 | 修约值 | |
0.0325 | 0.032 | |
32500 | 32×103(特定时可写为32000) |
3.4 负数修约时,先将它的绝对值按上述3.1-3.3规定进行修约,然后在修约值前面加上负号。
例l:将下列数字修约到“十”数位
拟修约数值 | 修约值 | |
-355 | -36×10(特定时可写为-360) | |
-325 | -32×10(特定时可写为-320) |
例2:将下列数字修约成两位有效位数
拟修约数值 | 修约值 | |
-365 | -36×10(特定时可写为-360) | |
-0.0365 | -0.036 |
4 不许连续修约
4.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。
例如:修约15.4546,修约间隔为l
正确的做法:15.4546→15
不正确的做法:15.4546→15.455→15.46→15.5→16
4.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。
4.2.1 报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍,进或未舍未进。
例如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.5;16.50(-)表示实际值小于16.50,经修约进一成为16.50。
4.2.2 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按第3章规则进行。
例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。
实测值 | 报出值 | 修约值 | |
15.4546 | 15.5(-) | 15 | |
16.5203 | 16.5(+) | 17 | |
17.5000 | 17.5 | 18 | |
-15.4546 | -(15.5(-))-15 |
5 0.5单位修约与0.2单位修约
必要时,可采用0.5单位修约和0.2单位修约。
5.1 0.5单位修约
将拟修约数值乘以2,按指定数位依第3章规则修约,所得数值再除以2。
例如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5)
拟修约数值 | 乘2 | 2A修约值 | A修约值 | |
(A) | (2A) | (修约间隔为1) | (修约间隔为0.5) | |
60.25 | 120.50 | 120 | 60.0 | |
60.38 | 120.76 | 121 | 60.5 | |
-60.75 | -121.50 | -122 | -61.0 |
5.2 0.2单位修约
将拟修约数值乘以5,按指定数位依第3章规则修约,所得数值再除以5。
例如:将下列数字修约到“百”数位的0.2单位(或修约间隔为20)
拟修约数值 | 乘5 | 5A修约值 | A修约值 | |
(A) | (5A) | (修约间隔为100) | (修约间隔为20) | |
830 | 4150 | 4200 | 840 | |
842 | 4210 | 4200 | 840 | |
-930 | -4650 | -4600 | -920 |
附加说明:
本标准由中国科学院系统科学研究所提出。
本标准由中国科学院系统科学研究所负责起草。
本标准主要起草人吴传义。
本标准委托中国科学院系统科学研究所负责解释。
分析化学中具体例子见 http://www.cheml.com/fxff/ShowArticle.asp?ArticleID=376