泰特仪器

15年专业品质
色谱仪行业领导者

您现在的位置:首页>>新闻活动>>产品知识
产品知识

分析操作中的有效数字、数字修约规则

作者:admin来源:日期:2016-06-21

 

有效数字

分析检验中直接或间接测定的量,一般都用数字表示,但它与数学中的“数”不同,而仅仅表示量度的近似值。在测定值中只保留一位可疑数字,如0.01231.23都为三位有效数字。当数字末端的“0”不作为有效数字时,要改写成用乘以10n来表示。如24600取三位有效数字,应写作2.46×104

1运算规则

1.1 除有特殊规定外,一般可疑数表示末位1个单位的误差。

1.2 复杂运算时,其中间过程多保留一位有效数,最后结果须取应有的位数。

1.3 加减法计算的结果,其小数点以后保留的位数,应与参加运算各数中小数点后位数最少的相同

1.4 乘除法计算的结果,其有效数字保留的位数,应与参加运算各数中有效数字位数最少的相同。

2 方法测定中按其仪器精度确定了有效数的位数后,先进行运算,运算后的数值再修约。

 

 

数字修约规则

1 在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时,则舍去,即所拟保留的末位数字不变。

例如:将14.2432修约到保留一位小数。

修约前     修约后

14.2432     14.2

2 在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字加例如:将26.4843修约到只保留一位小数。

修约前      修约后

26.4843      26.5

3 在拟舍弃的数字中,若左边第一位数字等于5,其右边的数字并非全部为零时,则进一,即所拟保留的末位数字加一。

例如:将1.0501修约到只保留一位小数。

修约前      修约后

1.0501       1.1

4 在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字皆为零时,所拟保留的末位数字若为奇数则进一,若为偶数(包括“0”)则不进。

例如:将下列数字修约到只保留一位小数。

修约前      修约后

0.3500        0.4

0.4500        0.4

1.0500        1.0

5 所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边第一个数字的大小,按上述规定一次修约出结果。

例如:将15.4546修约成整数。

正确的做法是:

修约前      修约后

15.4546       15

不正确的做法是:

修约前      一次修约      二次修约      三次修约      四次修约(结果)

15.4546       15.455         15.46           15.5                  16





武汉泰特沃斯科技有限公司 版权所有
鄂公网安备 42011502000350号 ICP备案号:鄂ICP备16004356号

客服热线:027-62436458