测量计算中的有效数字

夜猫dvp

1、有效数字的概念
　　测量结果都是包含误差的近似数据，在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。如果参加计算的数据的位数取少了，就会损害外业成果的精度并影响计算结果的应有精度；如果位数取多了，易使人误认为测量精度很高，且增加了不必要的计算工作量。
　　一般而言，对一个数据取其可靠位数的全部数字加上第一位可疑数字，就称为这个数据的有效数字。
　　一个近似数据的有效位数是该数中有效数字的个数，指从该数左方第一个非零数字算起到最末一个数字（包括零）的个数，它不取决于小数点的位置。

2、数字凑整规则
　　由于数字的取舍而引起的误差称为“凑整误差”或“取舍误差”。为避免取舍误差的迅速积累而影响测量成果的精度，在计算中通常采用如下的凑整规则：
（1） 若拟舍去的第一位数字是0至4中的数，则被保留的末位数不变；
（2） 若拟舍去的第一位数字是6至9中的数，则被保留的末位数加1；

（3） 若拟舍去的第一位数字是5，其右边的数字皆为0，则被保留的末位数是奇数时就加1，是偶数时就不变。

3、数字运算规则
　　在数字的运算中，往往需要运算一些带有凑整误差的不同小数位的数值，这时应按下列规则进行合理取位。
（1）加减运算：在加减时，各数的取位是以小数位数最少的数为标准，其余各数均凑整成比该数多一位小数。
（2）乘除运算：乘除时，各数的取位是以“数字”个数最少的为准，其余各数及乘积（商）均凑整成比该数多一个“数字”的数，该“数字”与小数点位置无关。
（3）三角函数：三角函数值的取位与角度误差的对应关系如下：

角度误差 10″ 1″ 0.1″ 0.01″
函数值位数 5位 6位 7位 8位