绪论 根据相对误差限估算有效数字位举例 例求5012的近似解要求相对误差不超过104 问应当精保留多少为有效数字?确到小数点后第几 位? 解:501/2的首位数字为7,由 10P+<10 2·(7+1) 可解得p=4. 由于50u/2的近似解得小数点左边有一位,所以应当 精确到小数点后第三位。 提示:如果是考试作这种类型的题,切不要先取对数 后取整。事实上,由
绪 论 1 根据相对误差限估算有效数字位举例 例:求501/2的近似解,要求相对误差不超过10-4, 问应当精保留多少为有效数字?确到小数点后第几 位? 解:501/2的首位数字为 7,由 1 4 10 10 2 (7 1) 1 − + − + p 可解得 p=4. 由于 501/2 的近似解得小数点左边有一位,所以应当 精确到小数点后第三位。 提示:如果是考试作这种类型的题,切不要先取对数 后取整。事实上,由
绪论 10P≤16·104 立即可得p=4. 注释:对于求实际来说,我们不必这样精确计算。简 单地说,如果要求相对误差不超过10那么简单地保 留n+1位有效数字即可。如果使用计算机计算,当然 可以在程序中控制相对误差
绪 论 2 10-p≤ 1.6·10-4 立即可得 p=4. 注释:对于求实际来说,我们不必这样精确计算。简 单地说,如果要求相对误差不超过 10-n,那么简单地保 留 n+1 位有效数字即可。如果使用计算机计算,当然 可以在程序中控制相对误差