正在加载图片...
将(0.706)转换为二进制数,要求其误差不大于210。 解:按式(1.3.5)所表达的方法,可得、..…如下: 0.706×2=1.412..1..b-1 0.412X2=0.824..0.…b-2 0.824X2=1.648..1..b-3 0.648×2=1.296..1.…b-4 0.296X2=0.592...0.…b-5 0.592×2=1.184.…1..b-6 0.184×2=0.368..0..b-7 0.368X2=0.736..0..b-8 0.736X2=1.472..1..b-9 由于最后的小数小于0.5,根据“四舍五入”的原则,应为0。 所以,(0.706)D=(0.101101001)B,其误差 8<2-10将(0.706)D转换为二进制数,要求其误差不大于2 -10 。 解:按式(1.3.5)所表达的方法,可得、……如下: 0.706×2=1.412……1 …… b-1 0.412×2=0.824……0 …… b-2 0.824×2=1.648……1 …… b-3 0.648×2=1.296……1 …… b-4 0.296×2=0.592……0 …… b-5 0.592×2=1.184……1 …… b-6 0.184×2=0.368……0 …… b-7 0.368×2=0.736……0 …… b-8 0.736×2=1.472……1 …… b-9 由于最后的小数小于0.5,根据“四舍五入”的原则,应为0。 所以,(0.706)D=(0.101101001)B,其误差   − 2 10
<<向上翻页
©2008-现在 cucdc.com 高等教育资讯网 版权所有