N維連續(xù)型隨機序列X1X2...XN,有概率密度p(X1X2...XN)以及證明:當隨機序列的分量各自達到正態(tài)分布并彼此統(tǒng)計獨立時熵最大。最大熵為:
在連續(xù)信源中,根據(jù)差熵、條件差熵和聯(lián)合差熵的定義,證明 (1)h(X|Y)≤h(X),當且僅當X和Y統(tǒng)計獨立時等號成立; (2)h(X1X2...XN)≤h(X1)+h(X2)+h(XN),當且僅當X1X2...XN彼此統(tǒng)計獨立時等式成立。