信息論與糾錯編碼

　　內容簡介目錄 本書重點介紹了信息論與糾錯編碼的基礎內容及應用，共分10章，內容包括：信息及信息的度量，離散信源及信源熵，離散信道及信道容量，信源編碼定理和信道編碼定理，平均失真測度和信息率失真函數，率失真編碼定理，糾錯編碼代數基礎，線性分組碼，循環(huán)碼和卷積碼。本書內容深入淺出，概念清晰，對一些較難理解的概念，配有較多的例題。本書適合作為高等院校電子技術、信息工程、通信工程、雷達、計算機、自動化、儀器儀表等相關專業(yè)的本科教材，亦可供從事信息科學、系統(tǒng)工程等的科研人員參考。前言信息論是應用近代概率統(tǒng)計方法研究信息傳輸、交換、存儲和處理的一門學科，也是源于通信實踐發(fā)展起來的一門新興應用學科。當前人類已步入信息社會，隨著信息概念的不斷發(fā)展，信息在科學技術上的重要性也早已超越了狹義的通信工程的范疇，受到越來越多的關注。在高等院校中，信息工程類專業(yè)是最為熱門的專業(yè)之一，信息技術已經改變了很多傳統(tǒng)電子類專業(yè)的知識結構。在這種形式下，許多高校都在相關專業(yè)開設了信息論方面的相關課程，作為本科生、研究生的必修或選修課。一方面這門課是電子類專業(yè)的核心課程，很多學校都把它作為必修課或必選課，但另一方面教材可選余地太小，一直有教師難教、學生難學的說法，希望能盡快出版面向本科生的適用教材。本著這種精神，本書力求在內容篩選及編排上以讀者最易接受的方式介紹信息理論的知識。本書包括"信息論與糾錯編碼"的基本內容及應用。第1章為"信息論基礎"，介紹了信息論的基本概念，以及本書的研究對象，即各種信源和信道。第2～6章屬信息論部分。這部分介紹了信息的度量，內容主要圍繞香農三大定理展開，研究在不允許失真情況下信息傳輸率的極限值，以及給定信源并且允許一定失真條件下信息傳輸率的極限值，并研究在誤碼率小于給定值的條件下如何最有效地利用信道的傳輸能力。第8～10章屬糾錯編碼部分，第7章講述了糾錯編碼所必須的數學知識。糾錯編碼是后人沿著香農指明的可行方向為尋求有效而可靠的編譯碼方法而發(fā)展起來的，主要研究在有噪信道條件下各種可行的編碼方案及實施技術。與現有的各種"信息論與編碼"教材相比，本教材有如下特色。1．本書力圖在編排上由淺入深，循序漸進，使讀者能較容易地接受信息論與糾錯編碼方面的基本理論知識；2．對于部分具有結論性、指導性的定理，本教材省去了冗繁的定理證明，注重物理概念的闡述及對后人工作的指導意義。3．著重介紹了糾錯編碼部分的內容。教材第8、9和10章分別論述糾錯編碼中最基本的線性分組碼、循環(huán)碼和卷積碼的編譯碼理論，并例舉了幾種常用的碼，如漢明碼、BCH碼和卷積碼，介紹了它們主要的編譯碼方法。4．對一些難以理解的概念，本書配有較多的例題，以幫助學生對抽象定理的理解。各章后面配有一些難易程度不等的思考題和習題，以供選用。本書全部內容約需60學時，不同專業(yè)可根據需要進行選擇。本書第1、7章由陳榮伶編寫，第2～6章由孫麗華編寫，第8、9、10章由謝仲華編寫，由孫麗華負責全書的策劃、修改和統(tǒng)編。本書在編寫過程中得到電子工業(yè)出版社的大力支持，王穎編輯做了大量的工作，在此一并表示衷心感謝！由于本書涉及的知識領域廣泛，而且變化日新月異，加上時間和水平的限制，難免有差錯和不足之處，敬請讀者指正！孫麗華 第1章信息論基礎1.1信息的概念1.2信息傳輸系統(tǒng)1.3離散信源及其數學模型1.3.1離散無記憶信源1.3.2離散無記憶的擴展信源1.3.3離散平穩(wěn)有記憶信源1.3.4馬爾可夫信源1.4離散信道及其數學模型1.4.1離散無記憶信道1.4.2離散無記憶的擴展信道本章小結思考題與習題第2章信息的度量2.1自信息量和互信息量2.1.1自信息量和條件自信息量2.1.2互信息量和條件互信息量2.2離散集的平均自信息量2.2.1信息熵2.2.2熵函數的性質2.3離散集的平均互信息量2.3.1平均互信息量2.3.2平均互信息量的性質2.3.3有關平均互信息量的兩條定理2.4N維擴展信源的熵和平均互信息量2.4.1N維擴展信源的熵2.4.2N維擴展信源的平均互信息量2.4.3有關N維平均互信息量的兩條定理本章小結思考題與習題第3章離散信源無失真編碼3.1概述3.1.1碼的分類 3.1.2平均碼長的計算 3.1.3信息傳輸率3.2等長碼及等長編碼定理3.3變長碼及變長編碼定理3.3.1變長碼3.3.2克拉夫特不等式3.3.3變長編碼定理3.4變長碼的編碼方法3.4.1香農編碼法3.4.2費諾編碼法3.4.3霍夫曼編碼法本章小結思考題與習題第4章率失真編碼4.1失真測度與平均失真4.2信息率失真函數R（D）4.2.1率失真函數的定義4.2.2率失真函數的值域、定義域4.2.3率失真函數的性質4.3率失真函數的計算4.3.1兩種特殊情況下的求解4.3.2R（D）的參數表示法4.4率失真信源編碼定理本章小結思考題與習題第5章離散信道的信道容量5.1信道容量的定義5.2離散無記憶信道容量的計算5.2.1達到信道容量的充要條件5.2.2幾類特殊信道5.3組合信道的容量5.3.1獨立并行信道5.3.2和信道5.3.3串行信道本章小結思考題與習題第6章有噪信道編碼6.1信道編碼的基本概念6.2譯碼規(guī)則及錯誤概率6.3信道編碼定理6.4費諾不等式及信道編碼逆定理6.4.1費諾不等式6.4.2信道編碼逆定理本章小結思考題與習題第7章糾錯編碼代數基礎7.1群7.1.1群的定義7.1.2子群7.1.3群的陪集分解7.2環(huán)7.2.1環(huán)的定義7.2.2整數剩余類環(huán)7.2.3多項式剩余類環(huán)7.3域7.3.1域的定義7.3.2有限域7.3.3有限域的本原元7.3.4有限域的結構7.3.5有限域的共軛根組7.3.6有限域的綜合舉例本章小結思考題與習題第8章線性分組碼8.1糾錯編碼的基本概念8.1.1信道糾錯編碼8.1.2差錯控制系統(tǒng)模型及分類8.1.3糾錯編碼的分類8.1.4差錯類型8.2線性分組碼的編碼8.2.1生成矩陣8.2.2校驗矩陣8.2.3編碼的實現8.3伴隨式與譯碼8.3.1碼的距離和重量8.3.2線性碼的糾檢錯能力8.3.3陪集分解與伴隨式8.3.4標準陣列與譯碼表8.4漢明碼8.4.1漢明碼的構造8.4.2漢明限與完備碼本章小結思考題與習題第9章循環(huán)碼9.1循環(huán)碼的一般概念9.1.1循環(huán)碼的定義9.1.2循環(huán)碼的多項式描述9.1.3循環(huán)碼的生成多項式9.2循環(huán)碼的編碼9.2.1利用生成多項式g（x）實現編碼9.2.2除法電路9.2.3編碼電路9.3循環(huán)碼的譯碼9.3.1伴隨式計算9.3.2循環(huán)碼的譯碼9.3.3Meggit通用譯碼器9.4一些重要的循環(huán)碼9.4.1循環(huán)漢明碼9.4.2BCH碼本章小結思考題與習題第10章卷積碼10.1卷積碼的基本概念10.1.1卷積碼概述10.1.2卷積碼的矩陣描述10.2卷積碼的概率譯碼10.2.1狀態(tài)圖和網格圖10.2.2最大似然譯碼10.2.3維特比譯碼算法本章小結思考題與習題參考文獻

暫缺《信息論與糾錯編碼》作者簡介