当前位置:高等教育资讯网  >  中国高校课件下载中心  >  大学文库  >  浏览文档

华中科技大学:《数值分析 Numerical Analysis》课程教学资源(讲义)根据相对误差估算有效数字位举例

资源类别:文库,文档格式:DOC,文档页数:2,文件大小:35KB,团购合买
根据相对误差限估算有效数字位举例 例:求5012的近似解,要求相对误差不超过 104,问应当精保留多少为有效数字?确到小数点后 第几位? 解:501/2的首位数字为7,由
点击下载完整版文档(DOC)

绪论 根据相对误差限估算有效数字位举例 例求5012的近似解要求相对误差不超过104 问应当精保留多少为有效数字?确到小数点后第几 位? 解:501/2的首位数字为7,由 10P+<10 2·(7+1) 可解得p=4. 由于50u/2的近似解得小数点左边有一位,所以应当 精确到小数点后第三位。 提示:如果是考试作这种类型的题,切不要先取对数 后取整。事实上,由

绪 论 1 根据相对误差限估算有效数字位举例 例:求501/2的近似解,要求相对误差不超过10-4, 问应当精保留多少为有效数字?确到小数点后第几 位? 解:501/2的首位数字为 7,由 1 4 10 10 2 (7 1) 1 − + −    + p 可解得 p=4. 由于 501/2 的近似解得小数点左边有一位,所以应当 精确到小数点后第三位。 提示:如果是考试作这种类型的题,切不要先取对数 后取整。事实上,由

绪论 10P≤16·104 立即可得p=4. 注释:对于求实际来说,我们不必这样精确计算。简 单地说,如果要求相对误差不超过10那么简单地保 留n+1位有效数字即可。如果使用计算机计算,当然 可以在程序中控制相对误差

绪 论 2 10-p≤ 1.6·10-4 立即可得 p=4. 注释:对于求实际来说,我们不必这样精确计算。简 单地说,如果要求相对误差不超过 10-n,那么简单地保 留 n+1 位有效数字即可。如果使用计算机计算,当然 可以在程序中控制相对误差

点击下载完整版文档(DOC)VIP每日下载上限内不扣除下载券和下载次数;
按次数下载不扣除下载券;
24小时内重复下载只扣除一次;
顺序:VIP每日次数-->可用次数-->下载券;
已到末页,全文结束
相关文档

关于我们|帮助中心|下载说明|相关软件|意见反馈|联系我们

Copyright © 2008-现在 cucdc.com 高等教育资讯网 版权所有