模式識別（第四版）

目 錄
第1章 導(dǎo)論 1
1．1 模式識別的重要性 1
1．2 特征、特征向量和分類器 3
1．3 有監(jiān)督、無監(jiān)督和半監(jiān)督學(xué)習(xí) 4
1．4 MATLAB程序 6
1．5 本書的內(nèi)容安排 6
第2章 基于貝葉斯決策理論的分類器 8
2．1 引言 8
2．2 貝葉斯決策理論 8
2．3 判別函數(shù)和決策面 12
2．4 正態(tài)分布的貝葉斯分類 13
2．5 未知概率密度函數(shù)的估計 23
2．6 最近鄰規(guī)則 42
2．7 貝葉斯網(wǎng)絡(luò) 44
習(xí)題 49
MATLAB編程和練習(xí) 55
參考文獻 60
第3章 線性分類器 63
3．1 引言 63
3．2 線性判別函數(shù)和決策超平面 63
3．3 感知器算法 64
3．4 最小二乘法 70
3．5 均方估計的回顧 75
3．6 邏輯識別 80
3．7 支持向量機 81
習(xí)題 97
MATLAB編程和練習(xí) 99
參考文獻 100
第4章 非線性分類器 104
4．1 引言 104
4．2 異或問題 104
4．3 兩層感知器 105
4．4 三層感知器 108
4．5 基于訓(xùn)練集準確分類的算法 109
4．6 反向傳播算法 110
4．7 反向傳播算法的改進 115
4．8 代價函數(shù)選擇 117
4．9 神經(jīng)網(wǎng)絡(luò)大小的選擇 119
4．10 仿真實例 123
4．11 具有權(quán)值共享的網(wǎng)絡(luò) 124
4．12 線性分類器的推廣 125
4．13 線性二分法中l(wèi)維空間的容量 126
4．14 多項式分類器 127
4．15 徑向基函數(shù)網(wǎng)絡(luò) 129
4．16 通用逼近 131
4．17 概率神經(jīng)元網(wǎng)絡(luò) 132
4．18 支持向量機：非線性情況 134
4．19 超越SVM的范例 137
4．20 決策樹 146
4．21 合并分類器 150
4．22 合并分類器的增強法 155
4．23 類的不平衡問題 160
4．24 討論 161
習(xí)題 161
MATLAB編程和練習(xí) 164
參考文獻 168
第5章 特征選擇 178
5．1 引言 178
5．2 預(yù)處理 178
5．3 峰值現(xiàn)象 180
5．4 基于統(tǒng)計假設(shè)檢驗的特征選擇 182
5．5 接收機操作特性（ROC）曲線 187
5．6 類可分性測量 188
5．7 特征子集的選擇 193
5．8 最優(yōu)特征生成 196
5．9 神經(jīng)網(wǎng)絡(luò)和特征生成/選擇 203
5．10 推廣理論的提示 204
5．11 貝葉斯信息準則 210
習(xí)題 211
MATLAB編程和練習(xí) 213
參考文獻 216
第6章 特征生成I：線性變換 221
6．1 引言 221
6．2 基本向量和圖像 221
6．3 Karhunen-Loève變換 223
6．4 奇異值分解 229
6．5 獨立成分分析 234
6．6 非負矩陣因子分解 239
6．7 非線性維數(shù)降低 240
6．8 離散傅里葉變換（DFT） 248
6．9 離散正弦和余弦變換 251
6．10 Hadamard變換 252
6．11 Haar變換 253
6．12 回顧Haar展開式 254
6．13 離散時間小波變換（DTWT） 257
6．14 多分辨解釋 264
6．15 小波包 265
6．16 二維推廣簡介 266
6．17 應(yīng)用 268
習(xí)題 271
MATLAB編程和練習(xí) 273
參考文獻 275
第7章 特征生成II 282
7．1 引言 282
7．2 區(qū)域特征 282
7．3 字符形狀和大小的特征 298
7．4 分形概述 304
7．5 語音和聲音分類的典型特征 309
習(xí)題 320
MATLAB編程和練習(xí) 322
參考文獻 325
第8章 模板匹配 331
8．1 引言 331
8．2 基于最優(yōu)路徑搜索技術(shù)的測度 331
8．3 基于相關(guān)的測度 342
8．4 可變形的模板模型 346
8．5 基于內(nèi)容的信息檢索：相關(guān)反饋 349
習(xí)題 352
MATLAB編程和練習(xí) 353
參考文獻 355
第9章 上下文相關(guān)分類 358
9．1 引言 358
9．2 貝葉斯分類器 358
9．3 馬爾可夫鏈模型 358
9．4 Viterbi算法 359
9．5 信道均衡 362
9．6 隱馬爾可夫模型 365
9．7 狀態(tài)駐留的HMM 373
9．8 用神經(jīng)網(wǎng)絡(luò)訓(xùn)練馬爾可夫模型 378
9．9 馬爾可夫隨機場的討論 379
習(xí)題 381
MATLAB編程和練習(xí) 382
參考文獻 384
第10章 監(jiān)督學(xué)習(xí)：尾聲 389
10．1 引言 389
10．2 誤差計算方法 389
10．3 探討有限數(shù)據(jù)集的大小 390
10．4 醫(yī)學(xué)圖像實例研究 393
10．5 半監(jiān)督學(xué)習(xí) 395
習(xí)題 404
參考文獻 404
第11章 聚類：基本概念 408
11．1 引言 408
11．2 近鄰測度 412
習(xí)題 427
參考文獻 428
第12章 聚類算法I：順序算法 430
12．1 引言 430
12．2 聚類算法的種類 431
12．3 順序聚類算法 433
12．4 BSAS的改進 436
12．5 兩個閾值的順序方法 437
12．6 改進階段 439
12．7 神經(jīng)網(wǎng)絡(luò)的實現(xiàn) 440
習(xí)題 443
MATLAB編程和練習(xí) 444
參考文獻 445
第13章 聚類算法II：層次算法 448
13．1 引言 448
13．2 合并算法 448
13．3 cophenetic矩陣 465
13．4 分裂算法 466
13．5 用于大數(shù)據(jù)集的層次算法 467
13．6 最佳聚類數(shù)的選擇 472
習(xí)題 474
MATLAB編程和練習(xí) 475
參考文獻 477
第14章 聚類算法III：基于函數(shù)最優(yōu)方法 480
14．1 引言 480
14．2 混合分解方法 481
14．3 模糊聚類算法 487
14．4 可能性聚類 502
14．5 硬聚類算法 506
14．6 向量量化 513
附錄 514
習(xí)題 515
MATLAB編程和練習(xí) 516
參考文獻 519
第15章 聚類算法IV 523
15．1 引言 523
15．2 基于圖論的聚類算法 523
15．3 競爭學(xué)習(xí)算法 533
15．4 二值形態(tài)聚類算法 540
15．5 邊界檢測算法 546
15．6 谷點搜索聚類算法 548
15．7 通過代價最優(yōu)聚類（回顧） 550
15．8 核聚類方法 555
15．9 對大數(shù)據(jù)集的基于密度算法 558
15．10 高維數(shù)據(jù)集的聚類算法 562
15．11 其他聚類算法 572
15．12 聚類組合 573
習(xí)題 578
MATLAB編程和練習(xí) 580
參考文獻 582
第16章 聚類有效性 591
16．1 引言 591
16．2 假設(shè)檢驗回顧 591
16．3 聚類有效性中的假設(shè)檢驗 593
16．4 相關(guān)準則 600
16．5 單獨聚類有效性 612
16．6 聚類趨勢 613
習(xí)題 620
參考文獻 622
附錄A 概率論和統(tǒng)計學(xué)的相關(guān)知識 626
附錄B 線性代數(shù)基礎(chǔ) 635
附錄C 代價函數(shù)的優(yōu)化 637
附錄D 線性系統(tǒng)理論的基本定義 649
索引 652