正在加载图片...
3、转换误差(本章的难点) 例1:(0.39)10=(?)2,要求精度达到01 懈解:设二进制数小数点后有n位小数 此时,Δ<21<01%,Δ<21<1/1000 取i≥10,∵2-10=1/210=1/1024< 1/19的取值为:≥10(取10位) 解得n≥10。 所以(.39)10=(0.011000111)3、转换误差(本章的难点) 此时, ∆ < 2-i<0.1% , ∆ < 2-i< 1/1000 取 i≥ 10 , ∵ 2-10 = 1/210 =1/1024 < 1/1000 ∴ i 的取值为: i ≥ 10 (取 10 位) 解:设二进制数小数点后有n位小数, 解得 n ≥ 10。 所以 (0.39)10 = (0.0110001111)2 。 例1:(0.39)10 = ( ? )2 ,要求精度达到 0.1 %
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有