点击下载:首都师范大学:《数值计算方法》课程教学资源(PPT课件讲稿)绪论(主讲:蒋莉)
正在加载图片...
计算机的浮点数表示和舍入 误差 n机器数一计算机中可表示的数(有限个) 浮点数表示(m进制,字长为t的计算机) 0cx12…1×B计算机的浮点数表示和舍入 误差 ◼ 机器数-计算机中可表示的数(有限个) ◼ 浮点数表示(m进制,字长为t的计算机) m 0.1 2 t
<<向上翻页
向下翻页>>
点击下载:首都师范大学:《数值计算方法》课程教学资源(PPT课件讲稿)绪论(主讲:蒋莉)
©2008-现在 cucdc.com 高等教育资讯网 版权所有