正在加载图片...
2.2有效数字的运算规则 1.加减运算:应以小数点后位数最少的的数字为依据,即结果的 位数取决于绝对误差最大的数据的位数 例: 0.0121 绝对误差:0.0001 25.64 0.01 +0.057 0.001 25.7091≈25.71 0.01 如 2.15+2.155+2.145+2.1451+2.1346 绝对误差:0.010.0010.0010.00010.00001 2.15+2.16+2.14+2.15+2.13=10.73 再如: 28.1 29.15 18.3659 +)15.46 -)10.15 -5.12 +)1.04643 +)12.375 =44.6 =19.00 =25.631. 加减运算: 应以小数点后位数最少的的数字为依据,即结果的 位数取决于绝对误差最大的数据的位数 例: 0.0121 绝对误差:0.0001 25.64 0.01 + 0.057 0.001 2.2 有效数字的运算规则 =44.6 如 2.15+2.155+2.145+2.1451+2.1346 绝对误差:0.01 0.001 0.001 0.0001 0.00001 2.15+2.16+2.14+2.15+2.13=10.73 再如: 28.1 29.15 18.3659 +)15.46 -)10.15 -)5.12 +) 1.04643 +)12.375 25.7091≈25.71 0.01 =19.00 =25.63
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有