数据修约不仅仅是四舍五入,来看全面的修约规则

lims 干货分享 3年前 (2022-06-09) 阅读(2784) 评论(0)

全面分析数据修约规则

1、 两个重要定义

1.数值修约rounding off for numerical values
指通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。

2.修约间隔 rounding interval

指修约值的最小数值单位。

注:修约间隔的数值一经确定,修约值即为该数值的整数倍。

例1:如指定修约间隔为0. 1,修约值应在。.1的整数倍中选取,相当于将数值修约到一位小数。

例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约“百”数位。

2、 确定修约间隔

确定修约间隔,简单来说就是修约到哪一位。

a. 指定修约间隔为10 -n (10的-n次方,n为正整数),或指明将数值修约到n位小数;

b. 指定修约间隔为1,或指明将数值修约到个数位;

c. 指明将数值修约到10 n 数位(10的n次方,n为正整数),或指明将数值修约到 “ 十 ” , “ 百 ” , “ 千 ” ……数位。

3、 四舍

拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例1:将12.1498修约到一位小数,得12.1。

例2:将12.1498修约成两位有效位数,得12。

4、 五入

拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。

例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。

例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。

例3:将10.502修约到个数位,得11。

“ 特定时 ” 的涵义系指修约间隔或有效位数明确时。

5、刚好等于5

拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1:修约间隔为0.1(或10 -1 )

1.150  → 1.2


例2:修约间隔为1000

2500 → 2000

3500→ 4000


例3:将下列数字修约成两位有效位数

0.0375 → 0.038

32500→ 32000

6、负数修约

负数修约时,先将它的绝对值规定进行修约,公众号:实验室ISO17025提醒,绝对值修约后,然后在修约值前面加上负号。

例1:将下列数字修约到 “ 十 ” 数位

-355  →  -360

例2:将下列数字修约成两位有效位数

-0.0365 →   -0.036 

数据修约不仅仅是四舍五入,来看全面的修约规则

发表评论