最大離散熵定理為:離散無記憶信源,等概率分布時熵最大。 最大熵值為
平均自信息為
設(shè)有DMC,其轉(zhuǎn)移矩陣為
試確定最佳譯碼規(guī)則和極大似然譯碼規(guī)則,并計算出相應(yīng)的平均差錯率。