正在加载图片...
二、有效数字的计算规则 1.数值相加减时,结果保留小数点后位数应与小数点 后位数最少者相同(绝对误差最大) 0.0121+12.56+7.8432=0.01+12.56+7.84=2041 总绝对误差取决于绝对误差大的 2.数值相乘除时,结果保留位数应与有效数字位数最 少者相同。(相对误差最大) (0.0142×2443×30584)/28.7 (0.0142×244×306)/28.7=3.69 总相对误差取决于相对误差大的。 3.乘方或开方时,结果有效数字位数不变 如 √7.56=2.75二、有效数字的计算规则 1.数值相加减时,结果保留小数点后位数应与小数点 后位数最少者相同(绝对误差最大) 0.0121+12.56+7.8432=0.01+12.56+7.84=20.41 总绝对误差取决于绝对误差大的 2. 数值相乘除时,结果保留位数应与有效数字位数最 少者相同。(相对误差最大) (0.0142×24.43×305.84)/28.7 =(0.0142×24.4×306) /28.7=3.69 总相对误差取决于相对误差大的。 3. 乘方或开方时,结果有效数字位数不变。 如 7.56 = 2.75
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有