正在加载图片...
X的尾数 mantissa 分式 fraction 尾数数字 digit figure(整数) 0≤d1≤B-1,i=12,…,t ex阶数 exponent,或 Characteristic L≤e≤U往往L L=-U±1 规格化浮点数系Fn Normalized Floating Point Number System t位有效数的相对精度 Minimum Relative Accuracy B B 8765432 876.5432=+(+,2+ 1010 0210310410510°10 B=10,t=7,e=3,a=B=106 浙江大学研究生 《实用数值计算方法》 学位课程浙江大学研究生 学位课程 《实用数值计算方法》 4 x的尾数 mantisa 分式 fraction di 尾数数字 digit figure (整数) e x的阶数 exponent, 或characteristic 往往 规格化浮点数系 Fn Normalized Floating Point Number System d10 t位有效数的 相对精度 Minimum Relative Accuracy  d i t i 0    −1, =1,2,  , L  e U = − 1 = − L U L U 1 6 3 2 3 4 5 6 7 1 1 10, 7, 3, 10 ) 10 10 2 10 3 10 4 10 5 10 6 10 7 10 8 876.5432 ( ) 1 ) ( 1 ( − − − − = = = = = = + + + + + + +  = = t t t t  t e        1.1.1
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有