基于半監(jiān)督與集成學(xué)習(xí)的文本分類方法

第1章 緒論 1
1.1 研究背景及意義 1
1.1.1 數(shù)據(jù)挖掘和文本挖掘 1
1.1.2 文本分類及其面臨的問題 3
1.2 國內(nèi)外相關(guān)研究 7
1.2.1 半監(jiān)督學(xué)習(xí) 7
1.2.2 集成學(xué)習(xí) 10
1.3 本書內(nèi)容組織 14
第2章 文本分類技術(shù)概述 17
2.1 文本分類預(yù)處理 17
2.2 文本的表示 19
2.3 特征選擇 21
2.3.1 初始特征選擇 22
2.3.2 特征選擇算法 22
2.4 文本分類算法 24
2.4.1 質(zhì)心向量分類算法 24
2.4.2 K近鄰分類算法 26
2.4.3 貝葉斯分類算法 27
2.4.4 關(guān)聯(lián)規(guī)則分類算法 33
2.4.5 支持向量機 33
2.4.6 其他分類算法 37
2.5 實驗數(shù)據(jù)集 38
2.6 分類模型的評估方法 39
2.7 本章小結(jié) 41
第3章 TEF-WA權(quán)值調(diào)整技術(shù) 42
3.1 特征選擇存在的問題 42
3.2 TEF-WA權(quán)值調(diào)整技術(shù) 43
3.2.1 TEF-WA權(quán)值調(diào)整的基本思想 43
3.2.2 各種評估函數(shù)的TEF-WA權(quán)值調(diào)整 45
3.3 實驗結(jié)果與分析 48
3.3.1 TEF-WA權(quán)值調(diào)整的有效性 48
3.3.2 不同評估函數(shù)的權(quán)值調(diào)整 52
3.3.3 評估比較 62
3.4 本章小結(jié) 68
第4章 結(jié)合TEF-WA技術(shù)的Co-training改進算法 69
4.1 Co-training算法及其存在的問題 69
4.2 基于TEF-WA的特征多視圖 70
4.2.1 TEF-WA技術(shù) 70
4.2.2 基于TEF-WA的特征多視圖 71
4.3 基分類器間的差異性評估 72
4.4 TV-SC算法與TV-DC算法 74
4.5 實驗結(jié)果及其分析 76
4.6 本章小結(jié) 80
第5章 基于特征獨立模型的Co-training改進算法 81
5.1 特征獨立模型 82
5.1.1 基于條件互信息的相互獨立性 82
5.1.2 基于條件2統(tǒng)計量的相互獨立性 83
5.1.3 特征獨立模型 84
5.2 特征子集劃分算法PMID 85
5.3 基于MID-Model的改進算法SC-PMID 88
5.4 實驗結(jié)果及其分析 89
5.4.1 PMID-MI與PART-Rnd的實驗比較 90
5.4.2 PMID-CHI與PART-Rnd的實驗比較 93
5.4.3 PMID-MI、PMID-CHI和PART-Rnd的實驗比較 95
5.4.4 SC-PMID-MI、SC-PMID-CHI和SC-PART-Rnd的
實驗比較 96
5.5 本章小結(jié) 98
第6章 基于投票信息熵和多視圖的AdaBoost改進算法 99
6.1 AdaBoost算法 100
6.1.1 AdaBoost算法描述 100
6.1.2 AdaBoost提升NB文本分類器的問題 101
6.2 利用特征評估函數(shù)構(gòu)造多視圖 102
6.3 基于投票信息熵的樣本權(quán)重維護新策略 103
6.3.1 投票信息熵 104
6.3.2 基于投票信息熵的樣本權(quán)重維護新策略 105
6.3.3 樣本權(quán)重對NB文本分類器的擾動 106
6.4 BoostVE算法 108
6.4.1 BoostVE算法描述 108
6.4.2 BoostVE算法的最小訓(xùn)練錯誤上界 109
6.5 實驗結(jié)果及其分析 113
6.5.1 參數(shù) 對BoostVE算法性能的影響 115
6.5.2 Boost VE算法與AdaBoost-MV算法、
AdaBoost算法的實驗比較 118
6.5.3 BoostVE 算法提升NB文本分類器的有效性 124
6.6 本章小結(jié) 126
第7章 結(jié)合半監(jiān)督學(xué)習(xí)的SemiBoost-CR分類模型 128
7.1 SemiBoost-CR模型的目標函數(shù) 129
7.2 未標注樣本的置信度 131
7.2.1 基于K近鄰的置信度 131
7.2.2 基于最大差距的置信度 132
7.3 基于置信度的重取樣策略 133
7.4 樣本權(quán)重維護策略 135
7.5 SemiBoost-CR分類算法 136
7.6 實驗結(jié)果及其分析 137
7.6.1 未標注近鄰樣本對置信度conf1的影響 139
7.6.2 兩種置信度方法conf1和conf2的實驗比較 140
7.6.3 topN和bottomN對SemiBoost-CR模型的影響 144
7.7 本章小結(jié) 154
第8章 文本自動分類系統(tǒng)SECTCS 155
8.1 系統(tǒng)簡介 155
8.2 系統(tǒng)總體結(jié)構(gòu) 156
8.3 系統(tǒng)的用戶界面 157
8.4 實驗數(shù)據(jù)集 163
8.5 本章小結(jié) 165
結(jié)束語 166
參考文獻 169