正在加载图片...
§4舍入方法与有效数字 1、舍入方法 计算机只能处理有限位字长的数,对字长较长的数要作 舍入处理,以得到一个有限字长的近似数 设要对A=a0a1…a m.m+1 m+2 m+n+n+ (a0≠0)作 舍入处理,得到具有n位小数的近似数a,常见的舍入方法有: (1)截断法:取a=a0a1… a.a+1am+2 m+n 此时舍入误差估计为 △a-A=0.0.0am+…≤0.0.09<0.0…1=1×10″ (2)四舍五入法:根据an+n+1的大小 m+n+1 1.2.3.4时,取a=a0a1·amm+1m+2…m+n 此时舍入误差估计为 △|a-A=0.0….0am+…≤0.0…049<0.0…05=0.5×10 n位 n位1、舍入方法 计算机只能处理有限位字长的数,对字长较长的数要作 舍入处理,以得到一个有限字长的近似数。 (1)截断法 : 设要对 作 舍入处理,得到具有n位小数的近似数a,常见的舍入方法有: 0 1 1 2 1 0 . ( 0) A a a a a a a a a =  m m m m n m n + + + + + (2)四舍五入法 : 取 0 1 1 2 . m m m m n a a a a a a a = + + + 此时舍入误差估计为 1 | | | | 0.0 0 0.0 09 0.0 1 1 10 n m n n n n a A a −  = − =   =  + + 位 位 位 根据 am n+ +1 的大小 当 am n+ +1 =1, 2,3, 4 时,取 0 1 1 2 . m m m m n a a a a a a a = + + + 此时舍入误差估计为 1 | | | | 0.0 0 0.0 0 49 0.0 05 0.5 10 n m n n n n a A a −  = − =   =  + + 位 位 位 §4 舍入方法与有效数字
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有