正在加载图片...
>有效数字 significant digits 用科学计数法,记x=±0.a42(寡中0m)。着≠0 x-x0.5即″的截取四舍五入规则),则称 为有n位有效数字,精确到10m-n 例:z=3.1415926535897932…;丌*=3.1415 问x*有几位有效数字?请证明你的结论。 证明:π*=0.31415×10 and|r*-|<05×10-3=0.5×101-4 丌*有4位有效数字,精确到小数点后第3位。 注:0.2300有4位有效数字,而00023只有2位有效。12300如 果写成0.123×105,则表示只有3位有效数字。 数字末尾的0不可随意省去! copyright@湘潭大学数学与计算科学学院 上一真下一真14 上一页 下一页 ➢有效数字 /* significant digits */ 用科学计数法,记 (其中 )。若 (即 的截取按四舍五入规则),则称 为有n 位有效数字,精确到 。 m a an x 0.a1 2 10 * =    a1  0 m n x x . − | − | 0 510 * n a * x m−n 10 例:  = 3.1415926535897932; * = 3.1415 问:  * 有几位有效数字?请证明你的结论。 * and * 0 5 10 0 5 10 0 31415 10 3 1 4 1  −   =  =  − − |π π| . . 证明: π* . , 有4位有效数字,精确到小数点后第 3位。 注:0.2300有4位有效数字,而00023只有2位有效。12300如 果写成0.123105,则表示只有3位有效数字。 数字末尾的0不可随意省去!
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有