正在加载图片...
循有效数字的运算规则。 1.数字相加或相减 和与差的有效数字的保留应以数字的绝对误差最大的那个数 字,即小数点后位数最少的数字为根据。尾数的修约采取4舍6入 5留双的原则,尾数修约后再进行加或减。 如将12.53702,8.861及0.689075三个数相加,见表7-1 表7-1数据相加的示例 错误的计 错误的计算 正确的计算 1253702 12.53702? 12.537 8.861 8.861??? 8.861 +0.689075 0.689075 +0.689 22.087095 22.087??? 22.087 2.数字相乘或相除 在乘除运算中是按照相对误差最大(有效数字位数最少的)的 那个数字来确定有效数字的位数。确定位数后,先修约尾数,然后 进行计算。 例如:00325×5103×6000009325×510×600 =0.0710 在上面四个数字中,相对误差最大的是0.0325,即 ±0.0001 0.03235×100=±0.3 1717 循有效数字的运算规则。 1.数字相加或相减 和与差的有效数字的保留应以数字的绝对误差最大的那个数 字,即小数点后位数最少的数字为根据。尾数的修约采取 4 舍 6 入 5 留双的原则,尾数修约后再进行加或减。 如将 12.53702,8.861 及 0.689075 三个数相加,见表 7-1。 表 7-1 数据相加的示例 错误的计算 错误的计算 正确的计算 12.53702 8.861 +0.689075 22.087095 12.53702? 8.861??? +0.689075 22.087??? 12.537 8.861 +0.689 22.087 2.数字相乘或相除 在乘除运算中是按照相对误差最大(有效数字位数最少的)的 那个数字来确定有效数字的位数。确定位数后,先修约尾数,然后 进行计算。 例如: 0.0325 5.103 60.00 0.0325 5.10 60.0 0.0710 139.8 140     = = 在上面四个数字中,相对误差最大的是 0.0325,即: 0.0001 100 0.3 0.0325 Er  =  = 
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有