正在加载图片...
§4舍入方法与有效数字 1、舍入方法 计算机只能处理有限位字长的数,对字长较长的数要作 舍入处理,以得到一个有限字长的近似数。 设要对A=aa1…an、an+an+2 m+nm+n+ (a≠0)作 舍入处理,得到具有n位小数的近似数a,常见的舍入方法有: (1)截断法:取a=aa…anan+1anm+2…an+n 此时舍入误差估计为 △|a-A=0.0.…0a 1…≤0.0…·09<0.0…1=1×10 n位 (2)四舍五入法:根据an-n1的大小 当ann=12,34时,取a= aba"am am+m22am+n 此时舍入误差估计为 △=a-A=0.0.…0a n位m+m+…·≤0.0…049<0.0.05=0.5×10-n n位1、舍入方法 计算机只能处理有限位字长的数,对字长较长的数要作 舍入处理,以得到一个有限字长的近似数。 (1)截断法 : 设要对 作 舍入处理,得到具有n位小数的近似数a,常见的舍入方法有: 0 1 1 2 1 0 . ( 0) A a a a a a a a a =  m m m m n m n + + + + + (2)四舍五入法 : 取 0 1 1 2 . m m m m n a a a a a a a = + + + 此时舍入误差估计为 1 | | | | 0.0 0 0.0 09 0.0 1 1 10 n m n n n n a A a −  = − =   =  + + 位 位 位 根据 am n+ +1 的大小 当 am n+ +1 =1, 2,3, 4 时,取 0 1 1 2 . m m m m n a a a a a a a = + + + 此时舍入误差估计为 1 | | | | 0.0 0 0.0 0 49 0.0 05 0.5 10 n m n n n n a A a −  = − =   =  + + 位 位 位 §4 舍入方法与有效数字
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有