关于卡西欧计算器的问题.小数点后几位.不是一般设置解决得了
问题描述:
关于卡西欧计算器的问题.小数点后几位.不是一般设置解决得了
我用计算器按的 6152448*(1-0.1099)=5476293.965
用别的计算器按的结果是 5476293.9648
为什么会这样呢 我设置了保留到小数点后9位.按道理有四位小数的话 卡西欧就要给我保留到四位小数啊,.怎么会这样
答
可能是因为计算机存储位数限制的问题,最多为10位,超出十位就溢出之类.你算算π的数值,看看共有多少位.
我的答题到此结束,