6.441 信息传输 习题7 2003年春季 截止日期：4月18号 第1题坐标系统设X,X:是独立同分布N0,8) 分布的随机变量，设R=√X?+X:且T=R2: a)用拉格朗日法证明在下面的均值约束条件下： max) w.WzD 最大化微分熵的分布是指数分布。 b)证明R具有瑞利分布，即： 人0e云 ©)证明T具有指数分布： d)利用坐标变换证明给出以下最优问题的分布是 瑞利分布： max)+log] R2,2w2 e)借助b),c),d)部分的结论用另一种方法证明
6.441 信息传输 习题 7 2003 年春季 截止日期：4 月 18 号 第 1 题 坐标系统 设 X1，X2是独立同分布 分布的随机变量，设 ),0( 2 N δ 2 2 2 1 += XXR 且 2 T = R ； a) 用拉格朗日法证明在下面的均值约束条件下： :[ ] , 0 max ( ) Xf EX X h X ≤ ≥ μ 最大化微分熵的分布是指数分布。 b) 证明R 具有瑞利分布，即： 2 2 2 ( ) exp( ) 2 R r r f r σ σ = − c) 证明T 具有指数分布； d) 利用坐标变换证明给出以下最优问题的分布是 瑞利分布： 2 2 : 0, [ ] 2 max ( ) [log ] Rf R ER hR E R ≥ ≤ σ + e) 借助 b),c),d)部分的结论用另一种方法证明
第2题设X,Y是相互独立的实随机变量，利用 Jensen不等式证明： h(X+Y)2h(X) 第3题有一高斯向量X,它的均值为零，协方差 距正为K,则有下式： h()log(2e)"deu(K) 利用此结论证明对于任意半正定对称矩阵有以下结 论： a)det(K)sΠ，K.,其中，是K的第个对角元素， 当且尽当K是对角阵时，等号成立： b)对于任意1e0,1, det(K+(I)K)2 det(K)det(K) c) det(+)2 det(K 第4题Cover和Thomas中的第10.2题 第5题设X,X2是两个维数为n的高斯随机变量
第 2 题 设 X ，Y 是相互独立的实随机变量，利用 Jensen 不等式证明： hX Y hX ( )( + ≥ ) 第 3 题 有一高斯向量 X ，它的均值为零，协方差 距正为K ，则有下式： 1 ( ) log(2 ) det( ) 2 n hX e K = π 利用此结论证明对于任意半正定对称矩阵 K 有以下结 论： a) ≤ Π KK iii )det( ，其中 Kij 是 K 的第 个对角元素， 当且尽当 th i K 是对角阵时，等号成立； b) 对于任意λ ∈ ]1,0[ ， 1 1 21 det( (1 ) ) det( ) det( ) K K KK2 λ λ λ λ − +− ≥ c) det( )det() 21 ≥+ KKK 1 第 4 题 Cover 和 Thomas 中的第 10.2 题 第 5 题 设 21 , XX 是两个维数为 n 的高斯随机变量
它们的均值分别为马丛，协方差分别为K,K,证明： mxI-merkIk-k+-6a-a门+号s8号 detK,)】
它们的均值分别为 21 μ ,μ ，协方差分别为K1，K2，证明： 1 2 1 2 2 1 2 1 21 2 1 1 1 det( ) ( || ) [ ( )( ) ] log 2 2 T det( ) K D X X traceK K K K μμμμ − = −+ − − +