設(shè)離散無記憶信源S其符號集A={a1,a2,...,aq},知其相應(yīng)的概率分別為(P1,P2,...,Pq)。設(shè)另一離散無記憶信源S′,其符號集為S信源符號集的兩倍,A′={ai,i=1,2,...,2q},并且各符號的概率分布滿足: 試寫出信源S′的信息熵與信源S的信息熵的關(guān)系。
設(shè)信源求此信源的熵,并解釋為什么H(X)>log6,不滿足信源熵的極值性。