计算值准确度
问题描述:
计算值准确度
为什么计算结果是几个值的乘积时,取最少的有效数字位数.而计算结果是几个值和的时候,取最少的小数点数位?
呵呵 我是中国的scholar…… 现在在新加坡读书 这里教的东西很怪异的 跟国内很多不一样 比较麻烦的
答
相乘时,实际上是数值被放大或缩小了一个倍数,那么此时有效数字的位数表征了精确的程度,因此要取最少有效数字位数作为结果的有效数字位数.而相加时,实际上是按数位运算,最后一位数字表征了每个数字的精确度,(精确量...