正在加载图片...
3)小数的精度及转换位数的确定 ①n位R进制小数的精度Rn 例1:(0.12)o的精度为102 例2:(0.101)2的精度为23 ②转换位数的确定 例3:(0.39)0=(?)2,要求精度达到0.1%。 解:设二进制数小数点后有n位小数, 则其精度为2,由题意知:2n≤0.1% 解得n≥10。 所以(0.39)0=(0.011001129 3)小数的精度及转换位数的确定 ①n位R进制小数的精度 R-n 例1:(0.12)10 的精度为 10-2 例2:(0.101)2 的精度为 2 -3 ②转换位数的确定 2 -n ≤ 0.1%, 解:设二进制数小数点后有n位小数, 则其精度为 2 -n,由题意知: 例3:(0.39)10 = ( ? )2 ,要求精度达到 0.1%。 解得 n ≥ 10。 所以 (0.39)10 = (0.0110001111)2
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有