應用數(shù)據(jù)分析：原理與應用

譯者序
前言
致謝
關(guān)于作者
貢獻者名單
縮略語
第1章 馬爾可夫鏈及其應用1
1.1簡介1
1.2定義1
1.2.1狀態(tài)空間2
1.2.2軌跡2
1.3使用馬爾可夫鏈的預測5
1.3.1初始狀態(tài)5
1.3.2長期概率6
1.4馬爾可夫鏈的應用8
第2章隱馬爾可夫建模10
2.1隱馬爾可夫建模表示法10
2.2釋放概率11
2.3隱馬爾可夫模型12
2.3.1建立HMM12
2.3.2圖形形式的HMM13
2.4HMM中的三大問題16
2.4.1表示法16
2.4.2問題1的解決方案：似然估計16
2.5狀態(tài)轉(zhuǎn)移表19
2.5.1輸入符號表20
2.5.2輸出符號表20
2.6問題3的解決方案：找到最佳HMM20
2.7練習21
第3章卡爾曼濾波器入門23
3.1簡介23
3.2標量形式23
3.3矩陣形式26
3.3.1狀態(tài)變量的模型27
3.3.2狀態(tài)的高斯表示29
3.4狀態(tài)矩陣32
3.4.1對象在單個方向上移動的
狀態(tài)矩陣32
3.4.2二維運動對象的狀態(tài)矩陣35
3.4.3在三維空間中移動的對象36
3.5帶有噪聲的卡爾曼濾波器模型38
參考文獻38
第4章卡爾曼濾波器II39
4.1簡介39
4.2卡爾曼濾波器中的處理步驟39
4.2.1協(xié)方差矩陣39
4.2.2協(xié)方差矩陣的計算方法41
4.2.3卡爾曼濾波器中的迭代45
第5章遺傳算法50
5.1簡介50
5.2遺傳算法的步驟50
5.3遺傳算法的相關(guān)術(shù)語51
5.4適應度函數(shù)52
5.5選擇54
5.5.1輪盤賭54
5.5.2交叉54
5.6最大化單個變量的函數(shù)56
5.7連續(xù)遺傳算法58
5.7.1地形圖的最低海拔58
5.7.2遺傳算法在傳感器溫度記錄中的應用60
參考文獻61
第6章計算圖的微積分62
6.1簡介62
6.2復合表達式63
6.3計算偏導數(shù)63
6.4積分計算66
6.4.1梯形法則66
6.4.2辛普森法則67
6.5多徑復合導數(shù)67
第7章支持向量機69
7.1簡介69
7.2支持向量機的數(shù)學基礎70
7.2.1超平面簡介70
7.2.2平行超平面71
7.2.3兩平行平面之間的距離72
7.3支持向量機問題73
7.3.1問題定義73
7.3.2線性可分情況73
7.4最佳超平面的定位（素數(shù)問題）75
7.4.1確定邊界75
7.4.2點xi與分離超平面的距離76
7.4.3求解最佳超平面問題77
7.5拉格朗日優(yōu)化函數(shù)78
7.5.1單約束優(yōu)化78
7.5.2多約束優(yōu)化79
7.5.3Karush-Kuhn-Tucker條件81
7.6SVM優(yōu)化問題81
7.6.1原始SVM優(yōu)化問題81
7.6.2對偶優(yōu)化問題82
7.7線性SVM數(shù)據(jù)84
7.7.1松弛變量85
7.7.2使用核的非線性數(shù)據(jù)分類86
參考文獻90
第8章人工神經(jīng)網(wǎng)絡91
8.1簡介91
8.2神經(jīng)元91
第9章神經(jīng)網(wǎng)絡訓練101
9.1簡介101
9.2神經(jīng)網(wǎng)絡架構(gòu)101
9.3反向傳播模型101
9.4帶有計算圖的反向傳播示例104
9.5反向傳播104
9.6神經(jīng)網(wǎng)絡實用訓練106
9.6.1前向傳播106
9.6.2反向傳播108
9.7權(quán)重方法的初始化111
9.7.1Xavier初始化111
9.7.2批處理標準化112
9.8結(jié)論112
參考文獻113
第10章循環(huán)神經(jīng)網(wǎng)絡114
10.1簡介114
10.2實例114
10.3原理116
第11章卷積神經(jīng)網(wǎng)絡124
11.1簡介124
11.2卷積矩陣124
11.3卷積核125
11.4卷積神經(jīng)網(wǎng)絡術(shù)語129
11.4.1概念和超參數(shù)129
11.4.2CNN處理階段131
11.4.3池化層133
11.4.4全連接層134
11.5CNN設計原則134
11.6結(jié)論135
參考文獻135
第12章主成分分析136
12.1簡介136
12.2定義136
12.3主成分計算141
12.3.1使用向量投影的PCA141
12.3.2使用協(xié)方差矩陣進行PCA計算142
12.3.3使用奇異值分解的PCA144
12.3.4PCA的應用145
參考文獻146
第13章矩母函數(shù)147
13.1隨機變量的矩147
13.1.1隨機變量的中心矩147
13.1.2矩特性148
13.2一元矩母函數(shù)149
13.3矩母函數(shù)的級數(shù)表示150
13.3.1概率質(zhì)量函數(shù)的性質(zhì)151
13.3.2概率分布函數(shù)f（x）的性質(zhì)151
13.4離散隨機變量的矩母函數(shù)151
13.4.1伯努利隨機變量151
13.4.2二項隨機變量152
13.4.3幾何隨機變量153
13.4.4泊松隨機變量153
13.5連續(xù)隨機變量的矩母函數(shù)154
13.5.1指數(shù)分布154
13.5.2正態(tài)分布154
13.5.3伽馬分布155
13.6矩母函數(shù)的性質(zhì)156
13.7多元矩母函數(shù)156
13.8矩母函數(shù)的應用157
第14章特征函數(shù)158
14.1簡介158
14.2離散單隨機變量的特征函數(shù)159
14.2.1泊松隨機變量的特征函數(shù)159
14.2.2二項隨機變量的特征函數(shù)159
14.2.3連續(xù)隨機變量的特征函數(shù)159
第15章概率生成函數(shù)161
15.1簡介161
15.2離散概率生成函數(shù)161
15.2.1概率生成函數(shù)的性質(zhì)162
15.2.2伯努利隨機變量的概率生成函數(shù)163
15.2.3二項隨機變量的概率生成函數(shù)163
15.2.4泊松隨機變量的概率生成函數(shù)163
15.2.5幾何隨機變量的概率生成函數(shù)164
15.2.6負二項隨機變量的概率生成函數(shù)165
15.3概率生成函數(shù)在數(shù)據(jù)分析中的應用167
15.3.1離散事件應用167
15.3.2傳染病建模168
參考文獻170
第16章基于人工神經(jīng)網(wǎng)絡的數(shù)字身份管理系統(tǒng)171
16.1簡介171
16.2數(shù)字身份度量171
16.3身份解析172
16.4生物識別系統(tǒng)架構(gòu)173
16.4.1指紋識別174
16.4.2人臉識別174
16.5信息融合175
16.6人工神經(jīng)網(wǎng)絡176
16.7多模式數(shù)字身份管理系統(tǒng)實現(xiàn)177
16.7.1終端、指紋掃描儀和攝像頭177
16.7.2指紋和人臉識別SDK178
16.7.3數(shù)據(jù)庫178
16.7.4驗證：連接到主機并選擇驗證178
16.8結(jié)論179
參考文獻179
第17章物聯(lián)網(wǎng)數(shù)據(jù)分類的概率神經(jīng)網(wǎng)絡分類器182
17.1簡介182
17.2概率神經(jīng)網(wǎng)絡182
17.3廣義回歸神經(jīng)網(wǎng)絡184
17.4向量量化GRNN185
17.5試驗工作188
17.6結(jié)論與未來工作189
參考文獻189
第18章分層概率有限狀態(tài)機的MML學習與推斷191
18.1簡介191
18.2有限狀態(tài)機和PFSM192
18.2.1有限狀態(tài)機的數(shù)學定義192
18.2.2狀態(tài)圖中的FSM表示192
18.3PFSM的MML編碼和推斷195
18.3.1建模PFSM195
18.3.2使用MML推斷PFSM198
18.4分層概率有限狀態(tài)機203
18.4.1定義HPFSM204
18.4.2HPFSM假設H的MML斷言代碼205
18.4.3HPFSM轉(zhuǎn)移的編碼206
18.5試驗207
18.5.1人工數(shù)據(jù)集試驗207
18.5.2ADL數(shù)據(jù)集試驗211
18.6小結(jié)214
參考文獻215
練習解答217