貝葉斯推理與機器學習

譯者序
前言
符號表
BRML工具箱第一部分　概率模型中的推斷第1章　概率推理3　1.1　概率知識復習3
　　1.1.1　條件概率5
　　1.1.2　概率表7
　1.2　概率推理8
　1.3　先驗、似然與后驗14
　　1.3.1　兩枚骰子：各自的分數(shù)是
多少15
　1.4　總結(jié)18
　1.5　代碼18
　　1.5.1　基礎(chǔ)概率代碼18
　　1.5.2　通用工具20
　　1.5.3　示例20
　1.6　練習題20第2章　圖的基礎(chǔ)概念23　2.1　圖23
　2.2　圖的數(shù)值表示25
　　2.2.1　邊表25
　　2.2.2　鄰接矩陣25
　　2.2.3　團矩陣26
　2.3　總結(jié)26
　2.4　代碼26
　　2.4.1　實用程序26
　2.5　練習題27第3章　信念網(wǎng)絡(luò)29　3.1　結(jié)構(gòu)化的優(yōu)勢29
　　3.1.1　獨立性建模29
　　3.1.2　降低說明的負擔32
　3.2　不確定性和不可靠的證據(jù)33
　　3.2.1　不確定性證據(jù)33
　　3.2.2　不可靠證據(jù)35
　3.3　信念網(wǎng)絡(luò)36
　　3.3.1　條件獨立性37
　　3.3.2　對撞的影響38
　　3.3.3　圖路徑獨立性操作41
　　3.3.4　d-分離41
　　3.3.5　圖和分布的獨立性與
相關(guān)性42
　　3.3.6　信念網(wǎng)絡(luò)中的馬爾可夫
等價性43
　　3.3.7　信念網(wǎng)絡(luò)的有限表達性43
　3.4　因果關(guān)系44
　　3.4.1　辛普森悖論45
　　3.4.2　do算子46
　　3.4.3　影響圖和do算子47
　3.5　總結(jié)47
　3.6　代碼47
　　3.6.1　簡單的推斷演示47
　　3.6.2　條件獨立性演示48
　　3.6.3　實用程序48
　3.7　練習題48第4章　圖模型52　4.1　圖模型簡介52
　4.2　馬爾可夫網(wǎng)絡(luò)52
　　4.2.1　馬爾可夫性質(zhì)54
　　4.2.2　馬爾可夫隨機場55
　　4.2.3　Hammersley-Clifford理論55
　　4.2.4　使用馬爾可夫網(wǎng)絡(luò)的條件
獨立性58
　　4.2.5　晶格模型58
　4.3　鏈圖模型60
　4.4　因子圖61
　　4.4.1　因子圖中的條件獨立性62
　4.5　圖模型的表達能力63
　4.6　總結(jié)65
　4.7　代碼65
　4.8　練習題65第5章　樹中的有效推斷68　5.1　邊緣推斷68
　　5.1.1　馬爾可夫鏈中的變量消除和
消息傳遞68
　　5.1.2　因子圖上的和-積算法71
　　5.1.3　處理證據(jù)74
　　5.1.4　計算邊緣似然74
　　5.1.5　循環(huán)問題75
　5.2　其他形式的推斷75
　　5.2.1　最大-積75
　　5.2.2　尋找N個最可能的狀態(tài)78
　　5.2.3　最可能的路徑和最短的
路徑79
　　5.2.4　混合推斷82
　5.3　多連通圖中的推斷82
　　5.3.1　桶消元82
　　5.3.2　環(huán)切條件84
　5.4　連續(xù)分布中的消息傳遞84
　5.5　總結(jié)85
　5.6　代碼85
　　5.6.1　因子圖示例86
　　5.6.2　最可能和最短路徑86
　　5.6.3　桶消元86
　　5.6.4　基于高斯的消息傳遞86
　5.7　練習題86第6章　聯(lián)結(jié)樹算法90　6.1　聚類變量90
　　6.1.1　重參數(shù)化90
　6.2　團圖91
　　6.2.1　吸收92
　　6.2.2　團樹上的吸收順序93
　6.3　聯(lián)結(jié)樹93
　　6.3.1　運行相交性質(zhì)94
　6.4　為單連通分布構(gòu)建聯(lián)結(jié)樹97
　　6.4.1　倫理化97
　　6.4.2　構(gòu)建團圖97
　　6.4.3　根據(jù)團圖構(gòu)建聯(lián)結(jié)樹97
　　6.4.4　為團分配勢函數(shù)97
　6.5　為多連通分布構(gòu)建聯(lián)結(jié)樹98
　　6.5.1　三角化算法99
　6.6　聯(lián)結(jié)樹算法及示例102
　　6.6.1　關(guān)于聯(lián)結(jié)樹算法的備注102
　　6.6.2　計算分布的歸一化常數(shù)103
　　6.6.3　邊緣似然103
　　6.6.4　聯(lián)結(jié)樹算法示例104
　　6.6.5　Shafer-Shenoy傳播105
　6.7　尋找最可能的狀態(tài)106
　6.8　重吸收：將聯(lián)結(jié)樹轉(zhuǎn)換為有向
網(wǎng)絡(luò)107
　6.9　近似的必要性107
　　6.9.1　寬度有界聯(lián)結(jié)樹108
　6.10　總結(jié)108
　6.11　代碼108
　　6.11.1　實用程序109
　6.12　練習題109第7章　決策111　7.1　期望效用111
　　7.1.1　貨幣效用111
　7.2　決策樹112
　7.3　擴展貝葉斯網(wǎng)絡(luò)以做出決策114
　　7.3.1　影響圖的語法114
　7.4　求解影響圖118
　　7.4.1　影響圖上的消息119
　　7.4.2　使用聯(lián)結(jié)樹119
　7.5　馬爾可夫決策過程122
　　7.5.1　利用消息傳遞來最大化期望
效用123
　　7.5.2　貝爾曼方程124
　7.6　時間無窮的馬爾可夫決策過程…　124
　　7.6.1　值迭代124
　　7.6.2　策略迭代125
　　7.6.3　維度災難126
　7.7　變分推斷和規(guī)劃126
　7.8　金融事項128
　　7.8.1　期權(quán)定價和期望效用128
　　7.8.2　二項式期權(quán)定價模型129
　　7.8.3　最優(yōu)投資130
　7.9　進一步的主題132
　　7.9.1　部分可觀察的MDP132
　　7.9.2　強化學習133
　7.10　總結(jié)1