信息論基礎(chǔ)習(xí)題解答（第2版）

目錄第1章緒論1第2章離散信息的度量42．1知識(shí)要點(diǎn)42．1．1自信息和互信息42．1．2信息熵62．1．3平均互信息92．2例題精解112．3習(xí)題解答15第3章離散信源343．1知識(shí)要點(diǎn)343．1．1離散信源的分類與數(shù)學(xué)模型343．1．2離散無(wú)記憶信源的擴(kuò)展353．1．3離散平穩(wěn)信源的熵353．1．4有限狀態(tài)馬爾可夫鏈363．1．5馬爾可夫信源373．1．6信源的相關(guān)性與剩余度383．2例題精解383．3習(xí)題解答42第4章連續(xù)信息與連續(xù)信源644．1知識(shí)要點(diǎn)644．1．1連續(xù)隨機(jī)變量的熵644．1．2離散時(shí)間高斯隨機(jī)變量的熵654．1．3連續(xù)最大熵定理664．1．4連續(xù)隨機(jī)變量之間的平均互信息674．1．5離散集與連續(xù)隨機(jī)變量之間的互信息674．1．6幾種重要的連續(xù)信源684．2例題精解684．3習(xí)題解答744．4補(bǔ)充題解89第5章無(wú)失真信源編碼925．1知識(shí)要點(diǎn)925．1．1概述925．1．2定長(zhǎng)碼935．1．3變長(zhǎng)碼945．1．4最優(yōu)編碼955．1．5幾種實(shí)用的信源編碼方法965．2例題精解975．3習(xí)題解答1035．4補(bǔ)充題解119第6章離散信道及其容量1246．1知識(shí)要點(diǎn)1246．1．1基本概念1246．1．2單符號(hào)離散信道及其容量1256．1．3級(jí)聯(lián)信道及其容量1266．1．4多維矢量信道及其容量1276．1．5信道容量的迭代算法1296．1．6有約束信道的容量1296．2例題精解1306．3習(xí)題解答136第7章有噪信道編碼1557．1知識(shí)要點(diǎn)1557．1．1基本概念1557．1．2最佳判決與譯碼準(zhǔn)則1567．1．3信道編碼與最佳譯碼1577．1．4費(fèi)諾不等式1577．1．5有噪信道編碼定理1587．1．6糾錯(cuò)編碼技術(shù)簡(jiǎn)介1597．2例題精解1607．3習(xí)題解答1667．4補(bǔ)充題解181第8章波形信道1828．1知識(shí)要點(diǎn)1828．1．1離散時(shí)間連續(xù)信道1828．1．2加性噪聲信道與容量1838．1．3AWGN信道的容量1848．1．4有色高斯噪聲信道1858．1．5數(shù)字調(diào)制系統(tǒng)的信道容量1868．2例題精解1868．3習(xí)題解答190第9章信息率失真函數(shù)2049．1知識(shí)要點(diǎn)2049．1．1基本概念2049．1．2信息率失真函數(shù)定義2059．1．3限失真信源編碼定理2059．1．4離散R(D)函數(shù)的性質(zhì)與計(jì)算2059．1．5連續(xù)R(D)函數(shù)的性質(zhì)與計(jì)算2069．1．6高斯信源的R(D)函數(shù)2079．1．7一般連續(xù)信源的R(D)函數(shù)2079．1．8有損數(shù)據(jù)壓縮技術(shù)簡(jiǎn)介2079．2例題精解2079．3習(xí)題解答2139．4補(bǔ)充題解232第10章網(wǎng)絡(luò)信息論初步23510．1知識(shí)要點(diǎn)23510．1．1基本概念23510．1．2多址接入信道23610．1．3廣播信道23710．1．4中繼信道23710．1．5分布信源編碼23710．2習(xí)題解答238第11章信息理論方法及其應(yīng)用26211．1知識(shí)要點(diǎn)26211．1．1離散信源熵的估計(jì)26211．1．2最大熵原理26211．1．3最小交叉熵原理26411．1．4信息理論方法的應(yīng)用26511．2例題精解26511．3習(xí)題解答267期末考試模擬試題277期末考試模擬試題標(biāo)準(zhǔn)答案279參考文獻(xiàn)285