第5期 姚伏天，等：高斯过程及其在高光谱图像分类中的应用 ·397· 测概率值P(clx)来给输入向量x指定类别c.传统 也就是p(yl)=N(ylf,o). 分类方法中，分类面由一组加权基函数组合而成，通 GP是把多元高斯分布推广到无限多个随机变 过训练数据求得每个基函数的系数，从而确定分类 量的形式.假设数据服从GP先验，则数据集合中的 面；但是，对于高维数据，因基函数和待求系数过多， 任意有限长的子集都服从联合多元高斯分布，其核 易引起过拟合问题.由于G不是将约束加在一系 函数为K,则 列的基函数上，而是直接对函数空间加上Bayes先 p(f)=N(0,K) 验，即通用的平滑性约束；因此该模型中没有大量的 目标是求得p(y)的边缘分布，可用如下积分： 参数，取而代之的是GP先验中协方差函数（核函 p(y)=p(yI A)p(f)df=N(yl 0,c). 数)的超参数，这就将模型转化为非参数Bayes模 型，从而解决了过拟合问题 式中协方差矩阵C中的元素如下： 高光谱遥感成像(hyperspectral remote sens- C(x,xm）=k(x.,xm）+o6m (1) ing)[1是光谱分辨率在10~20nm的光谱遥感，可 要预测y·,需要求出分布p(y·Iyw).这里yw表示 获得几百个地物波段的光谱信息，具有波段数众多、 N个数据向量(y1,y2,…,yw),同理yw+1表示(y1, 非线性、空间相关性和谱间相关性共存、难以获得样 y2,…,yw,y·)T.根据GP假设，联合分布为 本标记等特点.遥感图像分类是遥感地理信息系统 p(yN1)=N(yN10,CN). 中的关键技术之一，快速、高精度的遥感图像自动分 式中： 类算法是实现环境的动态监测、评价、预报的关键. 如何把新的模式分析和图像处理理论运用于高光谱 c[ (2) 影像分类是当前的研究热点之一 式中：Cw是N×N的协方差矩阵，其元素由式(1)而 本文首先介绍GP的基本理论及其发展；然后 得；向量K有N个元素k(x.,xw+1)组成，其中n=1, 分析了高光谱图像的特点及其当前常用的分类方 2,…,N;C的元素c=k(xw+1,xw+i)+o 法；在此基础上结合笔者的研究成果，重点讨论用于 根据高斯分布性质，P(y·Iyw)也是高斯分布， 高光谱图像分类的GP算法及其各种改进；最后给 其均值和方差分别为： 出了今后可能的一些关键研究问题， m(N)K'CNyN, 1 GP基本理论 o2(xw1）=c-KCNK. 根据Bayes决策论，损失函数最小化值为预测分布 GP是在Bayes框架中对函数f(x)进行推理，故 的中值，这里预测分布p(y·yw)为高斯分布，故可 对函数(x)在函数空间概率分布的可能形式给出 先验.在GP模型中，假设这样的先验分布符合GP: 用其均值来作为y·的预测值， f~p(fI X)=fcp(m(x),k(x,x')). L.2高斯过程分类(Gaussian process classification, 式中：fp由均值函数m(x)和协方差函数k(x,x')完 GPC) 全确定，即m(x)=E[f(x)],k（x,x)= 对于分类问题，由于分类结果是概率值，故可通 cov[f代x),f(x)].而且，对于由任何x所对应的函 1 过gic函数a()=1+erp(-力或者Probit函 数值的集合中的任意子集，也假设服从多元高斯分 数()=N(xI0,1)dx构成似然函数p(ylf), 布，其均值和方差可以直接由均值函数m(x)和协 将GPR的结果转换成概率值，这样目标变量y服从 方差函数k(x,x)分别计算出来. 贝努利分布： GP的先验意味着在观察训练样本以前，就相信 p(yID=σ()'(1-σ())1， 函数f(x)的可能形式是从先验p(f)中随机采样而 将f代x)f(x2),…,f(xw),f(x)记作向量fw+1…对 实现的，根据训练数据D,函数∫的先验可以更新成 于fN+1,GP的形式为 后验分布p(f1D) l.1高斯过程回归(Gaussian process regression, p(fv-1)=N(fv 0.CN). 式中：CN+1定义和式(2)中一致 GPR) 回归问题的定义为：给定训练数据D={(x, 对于分类问题，其实就是求p(y=1y)的分 布，该分布形式为 y),i=1,2,…,n,对于新输人x°，预测其输出y° p(y*=1Iy)= 考虑观察目标值上增加了零均值方差为σ：的 高斯噪声，形式为y=f(x)+E,其中8~N(0,σ)， p(y°=1If)p(fIy)df°. (3)