重復上述步驟，直至縮減信源只剩下兩個符號為止，此時所剩兩個符號的概率之和必為1。然后從最后一級縮減信源開始，依編碼路徑向前返回，就得到各信源符號所對應的碼字。

?

18. 信道編碼

信道編碼主要考慮如何增加信號的抗干擾能力，提高傳輸?shù)目煽啃?，并且提高傳輸效率?/p>

一般是采用冗余編碼法，賦予信碼自身一定的糾錯和檢錯能力，使信道傳輸?shù)牟铄e概率降到允許的范圍之內(nèi)。

19. 信道類型

根據(jù)信道連續(xù)與否分類

離散信道

連續(xù)信道

半連續(xù)信道

根據(jù)信道是否有干擾分類

無干擾信道

有干擾信道

根據(jù)信道的統(tǒng)計特性分類

無記憶信道

有記憶信道

恒參信道

變參信道

對稱信道

非對稱信道

20. 信道容量

在信息論中，稱信道無差錯傳輸?shù)淖畲笮畔⑺俾蕿樾诺廊萘俊?/p>

仙農(nóng)信道容量公式：

假設連續(xù)信道的加性高斯白噪聲功率為N，信道帶寬為B，信號功率為S，則該信道的容量為

由于噪聲功率N與信道帶寬B有關(guān)，則噪聲功率N=n0B?。因此，仙農(nóng)公式還可以表示為

21. 香農(nóng)信道容量公式的意義

在給定B和S/N的情況下，信道的極限傳輸能力為C，而且此時能夠做到無差錯傳輸。如果信道的實際傳輸速率大于C?值，則無差錯傳輸在理論上就已不可能。因此，實際傳輸速率一般不能大于信道容量C?，除非允許存在一定的差錯率。

提高信噪比S/N（通過減小n0或增大S），可提高信道容量C。特別是，若n0->0，則C->∞ ，這意味著無干擾信道容量為無窮大；

增加信道帶寬B，也可增加信道容量C，但做不到無限制地增加。這是因為，如果?S、n0一定，有

維持同樣大小的信道容量，可以通過調(diào)整信道的B及S/N來達到，即信道容量可以通過系統(tǒng)帶寬與信噪比的互換而保持不變。

22. 失真

失真：信源的消息經(jīng)過編解碼后不能完全復原

在實際的信源和信道編碼中，消息的傳輸并不總是無失真的。

由于存儲和傳輸資源的限制

噪聲等因素的干擾

23. 率失真理論

仙農(nóng)定義了信息率失真函數(shù)R(D)

D是消息失真

R是碼率

率失真定理：在允許一定失真度D的情況下，信源輸出的信息率可壓縮到R(D)。

24. 失真函數(shù)

失真函數(shù)：信源符號X={x1,?x2, …..xn}，經(jīng)信道傳輸接收端符號Y={y1,?y2….yn}，對于每一對(xi,?yj)指定一個非負函數(shù)?d(xi,?yj)，稱d(xi,?yj)為單個符號的失真度或失真函數(shù)。對于連續(xù)信源連續(xù)信道的情況，常用d(x,?y)表示。

常用失真函數(shù)：

平均失真度：