614 工程科学学报，第39卷，第4期 学网、神经科学回、能源消耗00等领域得到了较为 特征向量的方式求解.对于函数型主成分分析，根据 广泛的应用 Ramsay等-的推导，特征函数满足以下方程： 在函数型数据分析中，假设第i个观测样本包含 v(s,t)(t)dt=p(s). (9) 一系列离散的观测值yaya,…,ym,其函数的形式由K 个已知基函数中，()的线性组合表示： 其中p为相应的特征值，(，）=N~合 x(s)x;(t) 0=豆a0. (1) 为协方差函数，样本是去均值的，N∑，().通过 其向量形式为： x=c中=中'c. (2) 定义协方差算子V,E=v(,)(t)d,式(9)可表 式中，c为长度为K的系数向量，中为基函数中，组成 示为： 的函数型向量. E=p心 (10) 对于非周期性的数据，通常是利用B样条基函数 式中，为特征函数而不是特征向量. 展开.B样条基函数由阶数a和节点序列，(T,l=1, 主成分函数同样需要进行平滑处理，考虑最大化 2,…,L-1)确定，通过以下方程组递归求解网： 带有粗糙度惩罚函数的样本方法 B0=,<1<7. var gx,dt 0,其他. PCAPSV ()PEN ( (11) B0=仁B0+ -Ba-1() 其中，入为平滑系数，粗糙度函数PN2()=IDⅡ2= TI+a -TI T1+a+1-T1 (3) b'b,D表示2阶微分算子，J=D中(s)D中(s)ds. 系数向量c可由最小二乘法估计，令中为包含元 素中()的n×K阶矩阵，最小化误差平方和： 对于样本数据，基函数展开式为气日=三4,0， SMSSE (ylc)=(y-pc)'H(y-c). (4) 向量形式为x=Cb,其中C为n×K阶矩阵；对于特征 其中，H为加权系数. 其加权最小二乘解为： 函数，基函数晨开式为5)-言6,6，向量形式 c=(Φ'HΦ)Φy (5) 为(s)=中(s)Tb,其中b为K维向量.令A为向量c 使用最小二乘法进行求解时，选择的K越大，则 的协方差矩阵，W为元素是基函数内积"，=中.中，ds 数据估计的偏差越小，但是数据估计的方差越大，平滑 性越差，为有效的控制平滑程度，引入粗糙惩罚函数 的K阶对称矩阵，即W=中她s.则式(11)可表示 入×PEN(x),其中入为平滑系数，PEN(x)为m阶粗 为矩阵形式： 糙惩罚函数 b'WAWb PCAPSV=bTWb+A b Rb (12) PEN (x)=[D"x(]2ds 相应的广义特征值问题为： [D"c'(]'ds=c'D"(s)D6(s)"cds= WAWb =p(W+AR)b. (13) 进行Cholesky分解W+AR=LLT,其中L是下三角阵， c"[D"(s)D"(s)'ds]c=c"Jc (6) 并定义S=L,则式(13)可表示为 (SWAWS")(L'b)=p(L'b) (14) 式中，D为m阶微分算子，J=D中(s)D中(s)'d 定义u=L'b,式(14)可表示为： 利用最小二乘法，在估计系数向量时，可最小化以 (SWAWS")u =pu. (15) 下参数： 式(15)为标准的特征值问题，可依次解出u、b和 PENSSE (ylc)=SMSSE (ylc)+APEN (x)= 特征函数.对于样本数据或者通过测试采集到的数 (y-pc)H (y-pc)+Ac"Jc. (7) 据，进行函数化并减去均值，与各特征函数计算内积后 对c求一次导数，可得基函数系数向量的估计值 便是曲线的特征参数了. c=(ΦHΦ+J)ΦHy. (8) 2.2弹药传输机械臂角速度曲线特征提取 函数型主成分分析(FPCA)是经典多源分析中的 1.3节中，通过仿真试验获得了100组支臂的角 主成分分析(PCA)到希尔伯特空间的推广，其主要思 速度样本曲线，在进行极限学习机训练前，需提取样本 想与主成分分析一致，同样是主成分得分的方差最大 曲线的特征参数以降低样本的维度，提高训练速度与 化.主成分分析一般通过寻找协方差矩阵的特征值和 效率.对于100组样本数据，首先进行数据的函数化，工程科学学报，第 39 卷，第 4 期 学［8］、神经科学［9］、能源消耗［10--11］等领域得到了较为 广泛的应用． 在函数型数据分析中，假设第 i 个观测样本包含 一系列离散的观测值 yi1，yi2，…，yin，其函数的形式由 K 个已知基函数 k ( t) 的线性组合表示: x( t) = ∑ K k ckk ( t) ． ( 1) 其向量形式为: x = cT  = T c． ( 2) 式中，c 为长度为 K 的系数向量， 为基函数 k 组成 的函数型向量． 对于非周期性的数据，通常是利用 B 样条基函数 展开． B 样条基函数由阶数 a 和节点序列 τ( τl，l = 1， 2，…，L － 1) 确定，通过以下方程组递归求解［12］: Bl，0 ( t) = 1， τl ＜ t ＜ τl + 1， {0， 其他． Bl，a ( t) = t － τl τl + a － τl Bl，a － 1 ( t) + τl + a + 1 － t τl + a + 1 － τl + 1 Bl + 1，a － 1 ( t) ． ( 3) 系数向量 c 可由最小二乘法估计，令 Φ 为包含元 素 k ( tj ) 的 n × K 阶矩阵，最小化误差平方和: SMSSE( y | c) = ( y － Φc) T H( y － Φc) ． ( 4) 其中，H 为加权系数． 其加权最小二乘解为: c^ = ( ΦT HΦ) － 1ΦT Hy． ( 5) 使用最小二乘法进行求解时，选择的 K 越大，则 数据估计的偏差越小，但是数据估计的方差越大，平滑 性越差［6］，为有效的控制平滑程度，引入粗糙惩罚函数 λ × PENm ( x) ，其中 λ 为平滑系数，PENm ( x) 为 m 阶粗 糙惩罚函数 PENm ( x) = ∫［Dm x( s) ］2 ds = ∫［Dm cT ( s) ］2 ds = ∫ cT Dm ( s) Dm ( s) T cds = cT ［∫ Dm ( s) Dm ( s) T ds］c = cT Jc． ( 6) 式中，Dm 为 m 阶微分算子，J = ∫ Dm ( s) Dm  ( s) T ds． 利用最小二乘法，在估计系数向量时，可最小化以 下参数: PENSSEm ( y | c) = SMSSE( y | c) + λPENm ( x) = ( y － Φc) T H( y － Φc) + λcT Jc． ( 7) 对 c 求一次导数，可得基函数系数向量的估计值 c^ = ( ΦT HΦ + λJ) － 1ΦT Hy． ( 8) 函数型主成分分析( FPCA) 是经典多源分析中的 主成分分析( PCA) 到希尔伯特空间的推广，其主要思 想与主成分分析一致，同样是主成分得分的方差最大 化． 主成分分析一般通过寻找协方差矩阵的特征值和 特征向量的方式求解． 对于函数型主成分分析，根据 Ｒamsay 等［6--7］的推导，特征函数满足以下方程: ∫ v( s，t) ξ( t) dt = ρξ( s) ． ( 9) 其中，ρ 为相应的特征值，v( s，t) = N － 1∑ N i = 1 xi ( s) xi ( t) 为协方差函数，样本是去均值的，N － 1∑ N i = 1 xi ( t) ． 通过 定义协方差算子 V，Vξ = ∫ v(·，t) ξ( t) dt，式( 9) 可表 示为: Vξ = ρξ． ( 10) 式中，ξ 为特征函数而不是特征向量． 主成分函数同样需要进行平滑处理，考虑最大化 带有粗糙度惩罚函数的样本方法 PCAPSV( ξ) = var ∫ξxidt ‖ξ‖2 + λ × PEN2 ( ξ) ． ( 11) 其中，λ 为平滑系数，粗糙度函数 PEN2 ( ξ) = ‖D2 ξ‖2 = bT Jb，D2 表示 2 阶微分算子，J = ∫ D2 ( s) D2 T ( s) ds． 对于样本数据，基函数展开式为 xi ( t) = ∑ K k = 1 cikk ( t) ， 向量形式为 x = C，其中 C 为 n × K 阶矩阵; 对于特征 函数，基函数展开式为 ξ( s) = ∑ K k = 1 bkk ( s) ，向量形式 为 ξ( s) =  ( s) T b，其中 b 为 K 维向量． 令 A 为向量 ci 的协方差矩阵，W 为元素是基函数内积 wk1，k2 = ∫ k1 k2 ds 的 K 阶对称矩阵，即 W = ∫ T ds． 则式( 11) 可表示 为矩阵形式: PCAPSV = bT WAWb bT Wb + λ bT Ｒb． ( 12) 相应的广义特征值问题为: WAWb = ρ( W + λＲ) b． ( 13) 进行 Cholesky 分解 W + λＲ = LLT ，其中 L 是下三角阵， 并定义 S = L － 1，则式( 13) 可表示为 ( SWAWST ) ( LT b) = ρ( LT b) ． ( 14) 定义 u = LT b，式( 14) 可表示为: ( SWAWST ) u = ρu． ( 15) 式( 15) 为标准的特征值问题，可依次解出 u、b 和 特征函数． 对于样本数据或者通过测试采集到的数 据，进行函数化并减去均值，与各特征函数计算内积后 便是曲线的特征参数了． 2. 2 弹药传输机械臂角速度曲线特征提取 1. 3 节中，通过仿真试验获得了 100 组支臂的角 速度样本曲线，在进行极限学习机训练前，需提取样本 曲线的特征参数以降低样本的维度，提高训练速度与 效率． 对于 100 组样本数据，首先进行数据的函数化， · 416 ·