大学物理实验,有效数字问题电压220V,电阻244.9欧姆,按有效数字运算规则,用P=V^2/R计算出的功率应该是多少?
问题描述:
大学物理实验,有效数字问题
电压220V,电阻244.9欧姆,按有效数字运算规则,用P=V^2/R计算出的功率应该是多少?
答
根据有效数字运算法则,应先把各个因子化为与位数最低的有效数字的那个因子相同,然后进行运算,结果根据四舍五入保留为与各个因为有效位数相同.
具体到这里,220V是三位有效数字,所以先把244.9Ω化为245Ω再进行运算,运算结果为197.55..,保留三位有效数字,结果记为198W.