信息論與編碼之求平均自信息量

信息論與編碼中經常要求的就是平均自信息量，它是一個隨機變量，不能用來作為整個信源的信息測度，但是能夠反應一個事件平均所需的信息量。下面小編就來跟大家介紹一下它的求法，希望對大家有所幫助。

操作方法

（01）首先要理解題意，要求的就是信息熵。

（02）然後可以得出質點落入任一格的概率空間，如下圖所示。

（03）接着可以求出信源的平均自信息量。

（04）第二問要求的當質點A落入後，B落入的平均自信息量，即為H(B|A)。

（05）因為A已落入，則B落入的格可能有47個，可以寫出條件概率，如圖所示。

（06）然後求出此題的平均自信息量。

（07）A和B同時落入的平均自信息量也可以求出，如圖所示。