正在加载图片...
$4 Remarks 2.避免小分母:分母小会造成浮点溢出/ over flow 3避免大数吃小数 例:用单精度计算x2-(0°+1)x+10°=0的根。 精确解为x=10°,x,=1 算法1:利用求根公式x b±√b2-4ac 2a 在计算机内,10°为0.1×1010,1存为0.1×101做加法时 兩加数的指数先向大指数对齐,再将浮点部分相加。即1 的指数部分须变为1010,则:1=0.00000001×1010,取 单精度时就成为: 109+1=01000001010+0.0000×1010=0.1000000×1010 b+√b2-数吃小数 b-√b2-4ac米 0 2a 2a§4 Remarks 2. 避免小分母 : 分母小会造成浮点溢出 /* over flow */ 3. 避免大数吃小数 例:用单精度计算 x 2 −(109 +1)x +109 = 0 的根。 精确解为 10 2 1 9 x1 = , x =  算法1:利用求根公式 a b b ac x 2 4 2 −  − = 在计算机内,109存为0.11010 ,1存为0.1101 。做加法时, 两加数的指数先向大指数对齐,再将浮点部分相加。即1 的指数部分须变为1010,则:1 = 0.0000000001  1010,取 单精度时就成为: 109+1=0.100000001010+0.00000000 1010=0.10000000 1010 大数吃小数 0 2 4 10 , 2 4 2 2 9 2 1 = − − − = = − + −  = a b b ac x a b b ac x
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有