正在加载图片...
s 2 Error and Significant Digits 例:为使x的相对误差小于0.001%至少应取几位有效数字? 解:假设x取到n位有效数字,则其相对误差上限为 ×10 2 要保证其相对误差小于0.001%,只要保证其上限满足 ≤×10-n+<0.001% 2 已知a1=3,则从以上不等式可解得n>6-log6,即 n≥6,应取x=3.14159§2 Error and Significant Digits 例:为使 π 的相对误差小于 * 0.001%,至少应取几位有效数字? 解:假设 * 取到 n 位有效数字,则其相对误差上限为 1 1 10 2 1 * − +   n r a ε 要保证其相对误差小于0.001%,只要保证其上限满足 10 0.001% 2 1 * 1 1    −n+ r a ε 已知 a1 = 3,则从以上不等式可解得 n > 6 − log6,即 n  6,应取 * = 3.14159
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有