第3章矩阵、数组和符号运算 4、 MATLAB关于不同精度的控制 针对浮点运算的数值算法 计算速度最快,占用计算机内存最少的算法,与C FORTRAN语言中的浮点运算算法完全相同。在机器内 的表达和计算都是一个被“截断”的8位浮点近似值。 针对精确运算的符号算法 计算时间最长,内存占用最多,精度也最高。 任意精度的算法 运算时间、内存占用和计算精度均介于以上两种运算之间 采用函数 digits来控制十进制结果的有效位数。 digits的 缺省值为32,大约对应于浮点精度 符号数学工具箱中,用vpa函数执行任意精度运算。第3章 矩阵、数组和符号运算 4、MATLAB 关于不同精度的控制 ➢针对浮点运算的数值算法 计算速度最快，占用计算机内存最少的算法，与 C、 FORTRAN 语言中的浮点运算算法完全相同。在机器内 的表达和计算都是一个被“截断”的8位浮点近似值。 ➢针对精确运算的符号算法 计算时间最长，内存占用最多，精度也最高。 ➢任意精度的算法 运算时间、内存占用和计算精度均介于以上两种运算之间。 采用函数 digits 来控制十进制结果的有效位数。digits 的 缺省值为 32，大约对应于浮点精度。 符号数学工具箱中，用 vpa 函数执行任意精度运算