大学物理数据处理有关有效数字的问题
问题描述:
大学物理数据处理有关有效数字的问题
对于课本上定义的有关乘除法运算中,所得结果的有效数字的位数一般与诸因子中有效数字最少者相同.
那么,我想问一下,有没有特殊的情况,因为我在数据处理的时候,有时会发现,在这些因子中,仅仅存在一个含有小数位数的因子,其他的因子是2之类的整数,如果按照上面这个定义,那不是要按照“2”的标准,仅仅保留一位有效数字吗?那样不是会使得数据变得不精确了吗?因为上课时忘记问老师了,就是说有存在特殊情况吗?
答
整数因子和小数因子的乘积,其乘积小数点后保留位数同小数因子------因为所得结果的误差来自小数因子.我是这样理解的(当然,这里默认整数因子是常数,而不是一个带有估值意义的测量值)我突然想起来在计算诸如平均值时,就是将一系列数除以一个整数,此时看分子的有效数字的位数,所以解决了,谢谢。