一级注册计量师《测量数据处理与计量专业实务》知识点(85)
中华考试网  2019/7/12 15:30:26  

通用的修约规则为:

以保留数字的末位为单位,末位后的数字大于O.5者,末位进一;末位后的数字小于0.5者,末位不变(即舍弃末位后的数字);末位后的数字恰为0.5者,使末位为偶数(即当末位为奇数时,末位进一;当末位为偶数时,末位不变)。我们可以简捷地记成:“四舍六人,逢五取偶”。

 报告测量不确定度时按通用规则数字修约举例:

0.568mV,应写成 0.57mV 0.6mV;

  O.56lmV,应写成 O.56mV;

10.5nm,应写成 10nm;

10.5001nm,应写成 11nm;

11.5×10-3取二位有效数字,应写成 12×Lo-5;

取一位有效数字,应写成U 1×10-4;

  1235687A,取一位有效数字,应写成 1×lO-6A=1A。  

修约注意事项:不可连续修约,例如:要将7.691499修约到四位有效数字,应一次修约为7.691.若采取7.691499---7.6915---7.692是不对的。

为了保险起见,也可将不确定度的末位后的数字全都进位而不是舍去。

 例如: 10.27m ,报告时取二位有效数字,为保险起见可取 1lm 【案例】某计量检定员经测量得到被测量估计值为 5012.53mV, 1.32mV,在报告时,她取不确定度为一位有效数字 2mV,测量结果为y± 5013mV±2mV;核验员检查结果认为她把不确定度写错了,核验员认为不确定度取一位有效数字应该是 1mV

【案例分析】依据JJF 1059—1999规定:为了保险起见,可将不确定度的末位后的数字全都进位而不是舍去。该计量检定员采取保险的原则,给出测量不确定度和相应的测量结果是允许的,应该说她的处理是正确的。而核验员采用通用的数据修约规则处理测量不确定度的有效数字也没有错。这种情况下应该尊重该检定员的意见