ch05非参数方法 Pat2kn近邻估计
Ch 05. 非参数方法 Part 2 kn -近邻估计
Parzen估计的问题 如果p()的分布不均匀,在整个特征空间中采用同 样的窗宽度可能无法总是得到令人满意的结果 同样尺寸的窗口
Parzen窗估计的问题 • 如果p(x)的分布不均匀,在整个特征空间中采用同 样的窗宽度可能无法总是得到令人满意的结果 同样尺寸的窗口
kn近邻估计 种解决 Parzen窗估计单一窗宽问题方法 ·不固定窗宽度,而固定包括在x周围的某个区域中的样本个数k 通常k取决于样本总数n,所以表示为kn x周围数据密度大时,窗口变小(分辨率高) 当x周围数据密度小时,窗口变大(分辨率低) 包括进来的k个样本称为x的kn个最近邻 窗口包含同样多的样本
kn -近邻估计 • 一种解决Parzen窗估计单一窗宽问题方法 • 不固定窗宽度,而固定包括在x周围的某个区域中的样本个数k • 通常k取决于样本总数n,所以表示为kn • 当x周围数据密度大时,窗口变小(分辨率高) • 当x周围数据密度小时,窗口变大(分辨率低) • 包括进来的kn个样本称为x的kn个最近邻 窗口包含同样多的样本
kn近邻估计 令pn(x) 则pn(x)收敛到真实分布p(x的充要条件为 lim k mn/72 0 1→∞ 满足此条件的一个常用选择
kn -近邻估计 • 令 , 则 收敛到真实分布p(x)的充要条件为 • 满足此条件的一个常用选择
举例 维分布,kn=√ ·n=1时, =1 n>1时, pn(x)=一 max x i∈k,近邻
举例 • 一维分布, • n=1时, • n 1 时, ( ) 1 ( ) 2 max n n i i k p x n x x = − 近邻
举例 n=8,k=3或5
举例 n=8, k=3或5
举例 K=5
举例 K=5
举例 n=16 n n n A 0
举例
更多井参数估计的例子 直方图估计 △=0.04 0 0 0.5 △=0.08 0 0 0.5 △=0.25 0.5
更多非参数估计的例子 • 直方图估计
更多井参数估计的例子 Parzen窗估计 h=0.005 0 0.5 h=0.07 0.5 h=0.2 0.5
更多非参数估计的例子 • Parzen窗估计