正在加载图片...
s 2 Error and Significant Digits >有效数字/ significant digits 用科学计数法,记x=±0.42(媒中0″)。着≠ x-x<0.5即″的截取按四舍五入规则),则称 为有n位有效数字,精确到10mn 例:z=3.1415926535897932 *=3.1415 问兀*有几位有效数字?请证明你的结论。 证明:兀*=0.31415×10 and*-x|<0.5×10-3=0.5×10-4 丌*有4位有效数字,精确到小数点后第3位。 注:0.2300有4位有效数字,而00023只有2位有效。12300如 果写成0.123×105,则表示只有3位有效数字。 数字末尾的0不可随意省去!§2 Error and Significant Digits ➢有效数字 /* significant digits */ 用科学计数法,记 (其中 )。若 (即 的截取按四舍五入规则),则称 为有n 位有效数字,精确到 。 m a an x 0.a1 2 10 * =    a1  0 m n x x . − | − | 0 510 * n a * x m−n 10 例:  = 3.1415926535897932; * = 3.1415 问:  * 有几位有效数字?请证明你的结论。 * and * 0 5 10 0 5 10 0 31415 10 3 1 4 1  −   =  =  − − |π π| . . 证明: π* . , 有4位有效数字,精确到小数点后第 3位。 注:0.2300有4位有效数字,而00023只有2位有效。12300如 果写成0.123105,则表示只有3位有效数字。 数字末尾的0不可随意省去!
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有