设为首页 | 加入收藏      欢迎访问浙江环质环境科技有限公司网站
新闻中心
资讯搜索
行业新闻
当前位置:首页 > 行业新闻

实验结果应该保留几位有效数字?

发布者: 网站管理员   发布时间: 2020-09-16

有效数字及其有效数字的保留

 

1 .有效数字的定义

 

我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。

 

如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。

 

再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。

 

2 .有效数字的保留

 

由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。

 

如:在标准的极限数值(或技术指标)的表示中,×× ≧95  表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。

 

如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。

 

如GB/T 601-2016《化学试剂  标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。

 

“0” 在数字中的作用

 

“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。

 

1 .定位(无效)

 

当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零)  0.02040(数字前2个零)均为定位作用。

 

2. 定值(有效)

 

当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204,均为有效作用。

 

3 不确定作用:当“0”在整数后

 

如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103 。将4500用四位有效数字表示:0.4500×104 、45.00×102。

 

数字修约规则(GB/T 8170)

 

1.数字修约规则

 

“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。

 

世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。

 

2 .检验结果的修约

 

根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。

 

a)检验结果修约后,应体现出修约的情况。

 

如:标准值 ××<0.5

 

检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。

 

如:标准值 ×× ≥15

 

检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。

 

14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)

 

如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。

 

最终的报出结果只有修约到标准值上时,才用+、-表示。

 

b)一步修约到位 (这种修约更直接和更直观)。

 

例题:将下列结果修约到整数位

 

检测结果    报出值

 

15.4546       15

 

16.5203       17

 

17.5000       18

 

14.5500       15

 

10.5020       11

 

c)不准连续修约。

 

拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。

 

如15.4546 一次修约结果为:15。

 

※ 连续修约:15.455 — 15.46-15.5-16

 

※ 按多保留一位的修约法:15.5(-)

 

因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。

 

数值的修约方法

 

1. 数值的修约方法有两种,即修约值比较法和全数值比较法

 

a)修约值比较法:数值修约后,体现不出数值的修约情况;

 

b)全数值比较法:数值修约后,能够体现出数值的修约情况。

 

2 .如何选择修约值的方法 

 

a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;

 

b)只有当检测结果修约到标准值上时,方采用全数值比较法。


由上表可以看出,一般情况下全数值比较法严与修约值比较法。



转自:实验室经理人


公司地址:绍兴滨海新城花宫道8号国家级检测试验基地内
公司电话:0575-89295232/400-188-5060 | 公司传真:0575-89295232
版权所有:浙江环质环境科技有限公司 | 浙ICP备17015202号 | 技术支持:海马科技
QQ在线咨询
咨询热线1
400-188-5060
咨询热线2
0575-89295232