大学物理数据处理有关有效数字的问题对于课本上定义的有关乘除法运算中,所得结果的有效数字的位数一般与诸因子中有效数字最少者相同.那么,我想问一下,有没有特殊的情况,因为我在数据处理的时候,有时会发现,在这些因子中,仅仅存在一个含有小数位数的因子,其他的因子是2之类的整数,如果按照上面这个定义,那不是要按照“2”的标准,仅仅保留一位有效数字吗?那样不是会使得数据变得不精确了吗?因为上课时忘记问老师了,就是说有存在特殊情况吗?
问题描述:
大学物理数据处理有关有效数字的问题
对于课本上定义的有关乘除法运算中,所得结果的有效数字的位数一般与诸因子中有效数字最少者相同.
那么,我想问一下,有没有特殊的情况,因为我在数据处理的时候,有时会发现,在这些因子中,仅仅存在一个含有小数位数的因子,其他的因子是2之类的整数,如果按照上面这个定义,那不是要按照“2”的标准,仅仅保留一位有效数字吗?那样不是会使得数据变得不精确了吗?因为上课时忘记问老师了,就是说有存在特殊情况吗?
答