《自动控制原理》课程教学资源：第十章系统辨识.pdf_大学文库

控制原理电子教在辨识模型之前,对系统的机理和操作条件的了解,以及建模最终目的的了解,称为验前信息或先验知识 (2)试验设计选择变量:包括状态变量、输入变量、输出变量。选择变量的一个简单原则是,选择的输入变量能够设置,输出变量能够测量,并且和设计人员感兴趣的现象有关,应包含丰富的信息。因为试验的目的在于获取被测系统的内在信息 2)选择试验期限与采样间隔:试验期限越长,试验数据中所包含的内容越丰富。从这方面说,试验期限越长越好,但另一方面,时间越长,信息处理量就越大,辨识时间就越长,不利于在线辨识与实时控制。而且实验时间长,容易出现突变式干扰、漂移等,还有经济上的限制,因此选择的试验时间应适中。 3)腧输入、输出数据的检测和存储。因为系统辨识是根据系统的试验数据建立系统的数学模型,所以,首先要检测并存储试验数据。 4)离线或在线辨识:系统的离线辨识方法是先检测到所有试验数据,然后离线一次处理,从而得到系统的数学模型。如果辨识的目的是为了实现实时控制,特别是为了实现自适应实时控制,则需要采用在线辨识方法。在线辨识方法是一边检测系统输入、输出数据,一边在线辨识系统的数学模型关于系统辨识的试验设计,只是这几年刚刚形成的理论,还有许多问题需要研究。而且这些理论结果的实际应用也仅仅是开始 (3)模型结构的确定线性动态模型结构的辨识可以归结为确定系统的阶数和输出量对于输入量的滞后时间的问题 (4)参数估计当已知或者假设模型结构后,模型未知部分是动态模型的参数,需要根据输入、输出数据估计这些参数,所以称为参数估计。参数估计是系统辨识的中心内容 (5)模型验证验证辨识出的模型与实际过程的特性的一致性。最终模型应当是在满足精度的要求下,尽可能简单的数学模型 10.2线性静态模型的最小二乘参数估计 10.2.1参数估计问题假定被控对象的结构如图102所示,其中,y是输出变量;x1,…,xn是输入变量;B1,…,On是模型的参数,这些参数可能部分或全部未知。系统参数|” 图10.2被控对象结构若已知系统的输入输出关系为下列线性关系 y=b1x1+62x2+…+6nxn (10.1) 设对输入、输出进行m次观测得到的数据为{x1(i),x2(1,…xn(i),y(i)}, 1=1.2 m。现在的问题是:怎样根据这些观测数据估计系统的参数浙江工业大学自动化研究所

自动控制原理电子教案在辨识模型之前，对系统的机理和操作条件的了解，以及建模最终目的的了解，称为验前信息或先验知识。（2）试验设计 1)选择变量：包括状态变量、输入变量、输出变量。选择变量的一个简单原则是，选择的输入变量能够设置，输出变量能够测量，并且和设计人员感兴趣的现象有关，应包含丰富的信息。因为试验的目的在于获取被测系统的内在信息。 2) 选择试验期限与采样间隔：试验期限越长，试验数据中所包含的内容越丰富。从这方面说，试验期限越长越好，但另一方面，时间越长，信息处理量就越大，辨识时间就越长，不利于在线辨识与实时控制。而且实验时间长，容易出现突变式干扰、漂移等，还有经济上的限制，因此选择的试验时间应适中。 3)输入、输出数据的检测和存储。因为系统辨识是根据系统的试验数据，建立系统的数学模型，所以，首先要检测并存储试验数据。 4)离线或在线辨识：系统的离线辨识方法是先检测到所有试验数据，然后离线一次处理，从而得到系统的数学模型。如果辨识的目的是为了实现实时控制，特别是为了实现自适应实时控制，则需要采用在线辨识方法。在线辨识方法是一边检测系统输入、输出数据，一边在线辨识系统的数学模型。关于系统辨识的试验设计，只是这几年刚刚形成的理论，还有许多问题需要研究。而且这些理论结果的实际应用也仅仅是开始。（3）模型结构的确定线性动态模型结构的辨识可以归结为确定系统的阶数和输出量对于输入量的滞后时间的问题。（4）参数估计当已知或者假设模型结构后，模型未知部分是动态模型的参数，需要根据输入、输出数据估计这些参数，所以称为参数估计。参数估计是系统辨识的中心内容。（5）模型验证验证辨识出的模型与实际过程的特性的一致性。最终模型应当是在满足精度的要求下，尽可能简单的数学模型。 10.2 线性静态模型的最小二乘参数估计 10.2.1 参数估计问题假定被控对象的结构如图 10.2 所示，其中，y 是输出变量；是输入变量； n x , , x 1 L θ θ n , , 1 L 是模型的参数，这些参数可能部分或全部未知。系统参数 θ θ 1 2 , ,L,θn x1 x2 xn y 图 10.2 被控对象结构若已知系统的输入输出关系为下列线性关系： (10.1) n n y = θ x + θ x + L + θ x 1 1 2 2 设对输入、输出进行 m 次观测得到的数据为{ x ( i )，x (i)，…,x ( i )，y ( i ) }， i = 1 , 2 , … , m。现在的问题是：怎样根据这些观测数据估计系统的参数 1 2 n θ1 ， θ 2 ，…，θ n 。浙江工业大学自动化研究所 2

自动控制原理电子教案如果模型准确，测量数据也准确，则不难看出，只要 n 组测量数据，构成下列线性方程组，解线性方程组就可唯一地确定系统参数θ 1 ，θ 2 ，…，θ n ( ) ( ) ( ) ( ) 1 1 2 2 y i x i x i x i = θ + θ + L + θ n n (10.2) i = 1 , 2 , … , n 若写成矩阵向量形式，则有 Y = Xθ (10.3) 式中，， ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ( ) (2) (1) y n y y Y M ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = θ n θ θ θ M 2 1 ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ( ) ( ) ( ) (2) (2) (2) (1) (1) (1) 1 2 1 2 1 2 x n x n x n x x x x x x X n n n L M M M M L L 若测量数据使 X 非奇异，则系统参数为 X Y (10.4) −1 θ = 但是，实际系统的模型总是近似的，测量输入、输出数据不会绝对精确，而且测量装置的误差，读数误差，以及系统中存在的随机误差都会使观测数据不能准确地反映系统特性。这些误差常常是随机的，我们通常用一随机变量 e( i ) 反映上述随机误差，这样，m 组观测数据和系统参数间的关系可表示为 ( ) ( ) ( ) ( ) ( ) 1 1 2 2 y i x i x i x i e i = θ + θ + L + θ n n + (10.5) i = 1 , 2 , … , m 或表示为 Y = Xθ + ε (10.6) 其中ε = [e(1) e(2) L e(m)] T 为误差向量，又称残差。由于残差的存在，不同的 m 组观测数据会得出不同的参数θ 值，这些θ 值显然不是系统参数的真正值。“参数估计”的任务就是用统计的方法，从带有噪声的观测数据中，按照某种准则估计出最接近实际值的参数。最小二乘参数估计方法是广泛应用于工程界的统计估计方法。 10.2.2 最小二乘法的基本原理和算法已知某系统的输入与输出成正比，即 y =θ x 。显然如果没有误差，则只要测量一次测量值(x1, y1 ) 即可确定系数θ ，即 1 1 θ = y / x 。当有噪声存在时，实际的测量值为 y =θ x + ε 。最小二乘法就是使系统输出的估计值与系统输出的实际测量值之差的平方和最小，即 θ ( ) ˆ x i y(i) (10.7) ∑ [ = = − m i J y i x i 1 2 min ( ) ˆ ( ) θ ] 对于任一个参数估计值θ ~ ，其残差平方和为 ∑ [ ] = = − m i J y i x i 1 2 ( ) ~ ( ) ~ θ ∑ [ ] [ ] = = − ⋅ − m i y i x i x i J 1 θ ( ) ( ) ~ ~ 2 ( ) ~ ∂θ ∂ 当θ ˆ是最小二乘估计时，J 取得最小值。根据数学分析中熟知的结论，应有 = θ =θ ∂θ ∂ ˆ ~ ~ ~ J [ ] ( ) 0 ˆ 2 ( ) ( ) 1 − ∑ − = = m i x i y i θx i 因此 ∑ ∑ = = − = m i m i x i y i x i 1 1 2 ( ) 0 ˆ ( ) ( ) θ 浙江工业大学自动化研究所 3

自动控制原理电子教案 θ ∂θ ∂ X Y X X J T T = − 2 + 2 由最小二乘估计的定义，θˆ 应满足 0 ˆ 2 2 ˆ = − + = = θ ∂θ ∂ θ θ X Y X X J T T 因此 X X X Y (10.15) T T θ =ˆ 若测量值构成的矩阵 X XT 非奇异，则 X X X Y (10.16) T 1 T ( ) ˆ − θ = 由上式求得的θˆ 称为参数θ 的最小二乘估计。由于估计值是在取得足够数据后一次计算出来的，所以称为一次完成法。 $θ 必须指出，当 X XT 是奇异或接近奇异时，方程的解不唯一或解不稳定，这方面的理论问题可参看系统辨识专著。事实上，总可以选择合适的输入和取足够多的测量值使 X X X Y T T θ =ˆ (m >> n) X XT 非奇异。 10.2.3 最小二乘法的性质从上面的讨论可以看出，最小二乘法对模型中存在的误差没有任何要求，辨识时并不需要知道它的情况，这是最小二乘法的最大优点。但是，用最小二乘法得到的估计值θˆ 是否就是真正的参数值θ ？下面我们用统计的方法，分析最小二乘估计的均值和方差，研究θˆ 与θ 的偏离情况。 1. 最小二乘估计的无偏性由于测量值的随机性，最小二乘估计的显然也具有随机性。下面考察的数学期望。由最小二乘算式(10.16)和(10.10)，有 θˆ $θ ( ) ( ) ( ) ˆ 1 1 θ = = θ + ε − − X X X Y X X X X T T T T θ ε θ ε (10.17) T T T T T T X X X X X X X X X X 1 1 1 ( ) ( ) ( ) − − − = + = + 其中，θ 是系统参数的真值，是确定量。θˆ 的数学期望为 ]ˆ E[θ [( ) ] 1 θ ε T T E X X X − = + (10.18) 若ε 是均值不为 0 的随机变量，最小二乘估计θˆ 是有偏的。若ε 与 X 不相关且均值为 0，则 θ ] = θ (10.19) ˆ E[ 所以，若是均值为 0 且与 X 不相关的随机噪声，则最小二乘估计的均值为参数真值。这一性质称为无偏性。 ε $θ θ 2. 最小二乘估计的方差 θˆ 的数学期望从总体上表明参数估计的取值情况，但不能反映与其真值的偏离程度。下面考察的方差。 $θ θ θˆ ) ] ˆ )( ˆ ] [( ˆ [ T Varθ −θ = E θ −θ θ −θ {[( ) ][( ) ] } T 1 T T 1 T T E X X X ε X X X ε − − = = [( ) ( ) ] −1 −1 E X X X X X X T T T T εε = 1 1 ( ) [ ] ( ) − − X X X E X X X T T T T εε 令 R 为残差向量的方差阵，即 [ ]，则 T R = E εε 1 1 ] ( ) ( ) ˆ [ − − Var − = X X X RX X X T T T θ θ (10.20) 上式是最小二乘估计方差的一般计算公式。浙江工业大学自动化研究所 5

自动控制原理电子教案若残差ε 是均值为 0、方差为σ2 的白噪声，即 R E I (10.21) T = ⋅ = ⋅ 2 [ε ε ] σ 白噪声是一种理想的随机序列，它在某一时刻的取值与其它时刻的取值无关。实际上并不存在真正的白噪声，实际噪声都是有色噪声，即实际噪声在某时刻的值还和以前时刻的值以及其它因素有关。但为了简化分析，许多噪声可以近似地看作白噪声，因此 1 2 1 ] ( ) ( ) ˆ [ − − Var − = X X X ⋅ X X X T T T θ θ σ 2 1 1 ( ) ( ) − − = X X X X X X T T T σ (10.22) 2 1 ( ) − = X XT σ 这一结果揭示了的物理意义，即它代表了最小二乘法估计误差的方差的大小。 1 ( ) − X XT 3、最小二乘估计的一致性所谓估计的一致性是指随着观测次数的增加，估计值以概率收敛于真值 θˆ θ 。在参数估计时，总是希望随着观测次数的增加，所得到的估计值越精确。设ε 是均值为 0，方差为σ2 的白噪声，则有 1 2 2 1 ) 1 ] ( ) ( ˆ [ − − − = = X X m m Var X XT σ T θ θ σ (10.23) 如果 X X F m T m = ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ − →∞ 1 1 lim ，且 F 为非奇异矩阵，则 ) lim 0 1 lim lim ( 2 1 2 = = = →∞ − →∞ →∞ F m X X m m m T m m σ σ ψ (10.24) 由此可见，只要 1 ] 1 lim [ − →∞ X X m T m 为非奇异矩阵，则当 m→∞即数据取得足够多时，最小二乘估计误差的方差趋于 0，这表明θˆ 收敛于θ ，估计是一致的。应当指出，上述性质是在{ }k ε 为白噪声的假设条件下得到的。如果{ }k ε 为有色噪声，则估计是有偏的、非一致性估计的，但仍使残差最小。 10.2.4 应用举例用线性回归方程建立生产过程或系统静态模型，已在许多方面得到应用，下面举几个例子说明。例 10.1 建立水泥凝固时放出的热量与水泥成分之间关系的数学模型。水泥凝固时所释放出的热量，取决于该水泥各种成分的含量，设某种水泥的几种成分含量为，，，，水泥凝固时放出的热量为 y。设其模型为 x1 x2 x3 x 4 y a = + a x + a x + a x + a x 0 1 1 2 2 3 3 4 4 为辨识参数 a a 012 , , a , , a 3 a 4 ，进行了 13 次实验，实验数据如下：表 10.1 水泥凝固时放出的热量实验记录序号 x 1 x2 x3 x 4 y 1 7 26 6 60 78.5 2 1 29 15 52 74.3 3 11 56 8 20 104.3 浙江工业大学自动化研究所 6

自动控制原理电子教案由最小二乘法得 a′ = 2.4578, b = −1.1107 ，因此 x y e 1 1.1107 11.6791 − = 对两种模型比较： ( ) 1.119 1 ( ) 2 ∑ = = m i i 双 ε ( ) 0.94 1 ( ) 2 ∑ = = m i i 指 ε 可见，指数模型优于双曲线模型。 10.3 线性动态模型的最小二乘参数估计离散动态系统参数估计的众多方法中，以最小二乘法在理论上和实践上最为成熟并得到广泛应用。设系统由下列 n 阶差分方程描述： ( ) ( 1) ( ) ( ) ( ) ( ) 1 0 y k a y k a y k n b u k b u k n e k + − +L+ n − = +L+ n − + (10.25) 或写成： ( ) ( ) ( ) ( ) ( ) (10.26) 1 1 A q y k = B q u k + e k − − n A q a q a q an q − − − − = + + +L+ 2 2 1 1 1 ( ) 1 n B q b b q b q bn q − − − − = + + +L+ 2 2 1 0 1 1 ( ) 式中，{y(k)}和{u(k)}是输出与输入量不同时刻的测量值组成的离散时间序列； { }为不可测量的随机干扰序列。假设方程的阶数是已知的，而参数 …, …, 是未知的。现在的问题是如何通过带有噪声的输出和输入观测数据估计模型的参数。 e(k) , , a1 a2 , , , an b0 b1 bn 把待估计的模型参数和 k 时刻以前的 n 次采样数据记为向量形式， [ ]T a a L an b b Lbn , , , , , θ = 1 2 0 1 x (k) [ ] y(k 1) y(k n) u(k) u(k n) T = − − L − − L − 则式(10.25)可以写成 y(k) x (k) e(k) (10.27) T = θ + 其中e k( ) 为观测噪声和模型不准等形成的误差。把 k = n +1, n + 2,L,n + N 共 N 步采样数据，代入式(10.3)组成 N 个方程，并且用矩阵形式表达为 YN X N N = θ + ε (10.28) 其中， 1 ( ) ( 2) ( 1) × ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + + = N N y n N y n y n Y M 1 ( ) ( 2) ( 1) × ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + + = N N e n N e n e n M ε N n T T T N y n N y N u n N u N y n y u n u y n y u n u x n N x n x n X 2 ( 1) ( ) ( ) ( ) ( 1) (2) ( 2) (2) ( ) (1) ( 1) (1) ( ) ( 2) ( 1) × ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ − + − − + − + − + − − + = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + + = L L M M M M L L L L M 浙江工业大学自动化研究所 9

自动控制原理电子教案最小二乘法是选择模型参数，使模型输出与所有实际观测值总体上最接近，所以最小二乘估计的性能指标取为 θ ˆ ε ε ( ) θ ( θ (10.29) N N T N N N T N n N k n J = ∑e k = = Y − X Y − X + = + min ( ) 1 2 ) 由数学中的极值条件 0 ˆ = θ =θ ∂θ ∂J ，可以求得使 J 最小的θ ˆ。由式(10.29)得 ( ) θ ( ) N Nθ T J = YN − X N Y − X θ θ Nθ T N T N T N T N T = YN Y − 2 X Y + X X 2 2 ˆ 0 ˆ = − + = = = θ θ θ θ θ ∂θ ∂ N T N N T X NY X X J N T N N T X N X θ = X Y ˆ 若 X N T X N 满秩，则动态离散模型参数的最小二乘法估计θ ˆ为 ( ) (10.30) N T N N T X N X X Y 1 ˆ − θ = 为了保证 X N T X N 满秩，要求 N ≥ 2n +1，一般取测量数据个数 N=100～200。 10.4 最小二乘参数估计的递推算法在进行 n+N 次观测后，根据一次完成法可以构成输出向量和数据阵，从而得到最小二乘估计： YN X N ( ) N T N N T N X N X X Y 1 ˆ − θ = 当又获得了一组新的观测数据 {y(n + N +1),u(n + N +1)} ，同样可构成，得到最小二乘估计 : 1 1 , YN+ X N+ 1 ˆθ N+ ( ) (10.31) 1 1 1 1 1 1 ˆ + + − + = + + N T N N T θ N X N X X Y 下面通过分析第 N 次和第 N+1 次参数估计间的关系，得出最小二乘法的递推算式。显然， X N+1与 X N 、YN+1与YN 之间的关系分别为 ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + = ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + + + + = ( 1) ................... ( 1) .................. ( ) ( 1) 1 y n N Y y n N y n N y n Y N N M ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + = ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + + + + + = ( 1) ................... ( 1) .................. ( ) ( 1) 1 x n N X x n N x n N x n X T N T T T N M 其中 x (n + N +1) = [ T −y(n + N),L,−y(N +1),u(n + N +1),L,u(N +1)] 则由式(10.31) ，有浙江工业大学自动化研究所 10

《自动控制原理》课程教学资源：第十章 系统辨识

《自动控制原理》课程教学资源：第十章系统辨识