数值计算中如何判断有效数字的位数?
问题描述:
数值计算中如何判断有效数字的位数?
答
我参照了《计算方法与实习》 孙志忠 吴宏伟(第四版)中关于 有效数字的说明:里面定义了,如果近似值x的误差限是其某一位上的半个单位,且该位直到x的第1位非零数字一共n位,则称近似值x有n位有效数字.比如sqrt(3),取3...
数值计算中如何判断有效数字的位数?
我参照了《计算方法与实习》 孙志忠 吴宏伟(第四版)中关于 有效数字的说明:里面定义了,如果近似值x的误差限是其某一位上的半个单位,且该位直到x的第1位非零数字一共n位,则称近似值x有n位有效数字.比如sqrt(3),取3...