正在加载图片...
2.乘除运算时 有效数字的位数取决于相对误差最大的数据的位数 例:(0.0325x5.103x60.0/139.8=0.071179184=0.0712 0.0325±0.0001/0.0325×100%=±0.3% ±0.1% 5.103 ±0.001/5.103×100%=±0.02% 60.06 ±0.01/60.06×100%=±0.02% 139.8 ±0.1/139.8×100%=±0.07% 结果的有效数字位数一般与有效数字位数最少的那个数字相同 0.0325 ±0.3% 12.12 ±0.08% ×5.103 ±0.02% ×)0.156 ±0.6% 975 7272 000 6060 325 +)1212 +)1625 =1.89072≈1.89 ±0.5% 0.16584750.166 ±0.6% 有效数字的位数取决于相对误差最大的数据的位数 例:(0.03255.10360.0)/139.8=0.071179184=0.0712 0.0325 ±0.0001/0.0325  100%=±0.3% 5.103 ±0.001 /5.103  100%=±0.02% 60.06 ± 0.01 /60.06  100%=±0.02% 139.8 ±0.1 /139.8  100% =±0.07% 2. 乘除运算时 0.0325  5.103 0.1658475≈0.166 ±0.1% ±0.6% ±0.3% 12.12 ±0.02% ×) 0.156 ±0.08% ±0.6% ±0.5% 结果的有效数字位数一般与有效数字位数最少的那个数字相同 7272 6060 +) 1212 =1.89072≈1.89 +) 1625 975 000 325
<<向上翻页
©2008-现在 cucdc.com 高等教育资讯网 版权所有