第三章 概率密度函数的估计 非参数估计 2010-10-18 直方图法 直方图法 口基本思路：户(x)是px)的离散近似 口平滑参数：小窗个数/尺寸(bin size)) ■将观测向量x的每个分量分成k个等间隔小窗 M=3 1M=20 p(x) P(x) 2(x) (bin):x∈E,即形成d个小舱： P(x) ■统计落入各个小舱内的样本数 H0=210,eBi=12,m Oversmoothing M=10 =50 ·正规化 p(x) P】 0肥 P(x 非参数估计的基本方法 非参数估计的基本方法 口基本思路：用某核函数表示某一样本对待估计的 口基本事实：一个向量x落在区域R中的概率为 密度函数的贡献，所有样本所作贡献的线性组合 (函数之和)视作对某点概率密度p(x)的估计。 P=∫npx'h ,(s)=2x-x》 。根据P()抽取N个独立同分布的样本，则有 Pk)=CPI-P)-=BkIN,P方 口P):N个样本中有k个落入区域R的概率： 口Pe:样本x落入区域R的概率： 口B(k|N,P):k的二项分布。 玉】单参数估计的蒂本 图多《每个样本的质献随距离变化的非参数结计第三章 概率密度函数的估计 2010-10-18 非参数估计 3 直方图法  基本思路： 是 的离散近似  将观测向量 x 的每个分量分成 k 个等间隔小窗 (bin)；x∈Ed，即形成 kd 个小舱；  统计落入各个小舱内的样本数  正规化 ( ) ˆ P x p( ) x 1 ( ) ( ), 1,2, , ; n j i j Hi I B i m      x  ( ) ˆ() . H i p i NV   平滑参数：小窗个数/尺寸 (bin size) 4 直方图法 5 非参数估计的基本方法  基本思路：用某核函数表示某一样本对待估计的 密度函数的贡献，所有样本所作贡献的线性组合 （函数之和）视作对某点概率密度 p(x) 的估计。 1 ˆ ( ) ( ). n N i i p   x xx    6 非参数估计的基本方法  基本事实：一个向量 x 落在区域 R 中的概率为  根据 p(x) 抽取 N 个独立同分布的样本，则有  P(k)：N个样本中有 k 个落入区域 R 的概率；  PR：样本 x 落入区域 R 的概率；  B(k | N, P)：k 的二项分布。 ( ') '; P pd R   x x R ( ) (1 ) ( | , ); k k Nk Pk C P P Bk NP NR R R   