熵( Entropy) 代表信源所含的平均信息量 若信源编码的熵大于信源的实际熵,则信源中的数据一定 存在冗余度 冗余数据的去除不会减少信息量。 信息量与数据量的关系可由下式表示 I=d-du (51)熵（Entropy） • 代表信源所含的平均信息量 • 若信源编码的熵大于信源的实际熵，则信源中的数据一定 存在冗余度 • 冗余数据的去除不会减少信息量。 • 信息量与数据量的关系可由下式表示 I = D − du （5.1）