某四進(jìn)制離散信源,其符號等概,符號間相互獨(dú)立,每個符號的寬度為0.1ms。
試計算:
(1)碼元速率和信息速率;
(2)該信源工作2小時后所獲得的信息量;
(3)若將個符號編成二進(jìn)制碼后進(jìn)行傳輸,在工作2小時后發(fā)現(xiàn)有36個差錯比特(差錯比特為均勻分布),求傳輸?shù)恼`比特率和誤符號(碼)率。
(1)碼元速率和信息速率為:
(2)工作2小時后所獲得的信息量為:
(3)傳輸?shù)恼`比特率為:
某信息源的符號集由A、B、C、D和E組成,舍每一符號獨(dú)立出現(xiàn),其出現(xiàn)概率分別為1/4,1/8,1/8,3/16,5/16。
試求:
(1)該信息源符號的平均信息量;
(2)要想獲得最大熵該信源應(yīng)滿足什么條件及最大熵為多少。
(1)平均信息量:
(2)獲得最大熵條件為各符號獨(dú)立等概;
此時最大熵為:
每個符號的平均信息量為:
該信息源的平均信息速率為: