二、连续信源的熵 2、相对熵 h(X)= p(x)log ( 或X)=-p(x)logp(x)k XY ∫vx)g dx小y h(X)=小叭(x)0%py (Xr) ∫ p(xy)log p(xy )dxdy二、连续信源的熵 2、相对熵 1 ( ) ( ) ( ) b a h X p x log dx p x =  : ( ) ( )log ( ) R h X p x p x dx = − 或  1 ( ) ( ) ( ) h X Y p xy log dxdy p x y =   1 ( ) ( ) ( ) h Y X p xy log dxdy p y x =   h XY p xy p xy dxdy ( ) ( )log ( ) = − 