3-5-1正规方程 min llAx -bll? x∈Rn 定理设A∈Rmxn(m≥n),则x*∈R”是线性最小二乘问题的解当且仅当残量r= b-Ax与Ran(A)(值域)正交，即x*是下面的正规方程（或法方程）的解 AT(b-A)=0AT Ax=ATb. (3.1) (板书)】 http://nath.ecnu.edu.cn/-jypan 3/20 3-5-1 正规方程 min x∈Rn ∥Ax − b∥ 2 2 定理 设 A ∈ R m×n (m ≥ n), 则 x∗ ∈ R n 是线性最小二乘问题的解当且仅当残量 r = b − Ax∗ 与 Ran(A) (值域) 正交, 即 x∗ 是下面的正规方程 (或法方程) 的解 A ⊺ (b − Ax) = 0 或 A ⊺ Ax = A ⊺ b. (3.1) (板书) http://math.ecnu.edu.cn/~jypan 3/20