香农编码 ·例：有一单符号离散无记忆信源 x X2 X3 X4 X5 0.40.30.20.050.05 对该信源进行二进制香农编码，其过程如表所示： 信源符号 累加 码 以i=3为例 符号 機率 機率 -log p(x 长 码字长度： 码字 K3=[l0g0.2]=3 X P(xi) P K 累加视Q X 0.4 0 1.32 2 00 =0ζ9-9 .10110. X2 0.3 0.4 1.73 2 01 X3 0.2 0.7 2.32 3 101 101 11100 X4 0.05 0.9 4.3 5 11100 X5 0.05 0.95 这些码字没有占满所有树叶， 11110 所以不是最佳变长编码。 9 • 例: 有一单符号离散无记忆信源 • 对该信源进行二进制香农编码，其过程如表所示： 以i = 3为例: 码字长度： K3 = [-log0.2] = 3 累加概率 Pi=0.70 → 0.10110… 00 01 101 11100 11110 信源 符号 xi 符号 概率 p(xi) 累加 概率 Pi -log p(xi) 码 长 Ki 码字 x1 0.4 0 1.32 2 00 x2 0.3 0.4 1.73 2 01 x3 0.2 0.7 2.32 3 101 x4 0.05 0.9 4.3 5 11100 x5 0.05 0.95 4.3 5 11110 1 2 3 4 5 ( ) 0.4 0.3 0.2 0.05 0.05 X x x x x x p x              香农编码 这些码字没有占满所有树叶, 所以不是最佳变长编码