數(shù)據(jù)挖掘基礎(chǔ)算法理論與Weka應(yīng)用技術(shù)

目錄
第1章 緒論 1
1.1 數(shù)據(jù)挖掘 1
1.1.1 數(shù)據(jù)挖掘是什么 2
1.1.2 數(shù)據(jù)挖掘的功能 3
1.1.3 數(shù)據(jù)挖掘的過(guò)程 4
1.1.4 數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí) 5
1.2 Weka簡(jiǎn)介 6
1.3 示例數(shù)據(jù)集 9
1.3.1 天氣問(wèn)題 9
1.3.2 鳶尾花問(wèn)題 11
1.3.3 CPU性能問(wèn)題 11
1.3.4 購(gòu)物籃問(wèn)題 12
1.3.5 美國(guó)國(guó)會(huì)投票記錄 13
第2章 認(rèn)識(shí)數(shù)據(jù) 14
2.1 概念、實(shí)例集、屬性 14
2.2 ARFF格式文件 16
第3章 分類 20
3.1 分類器的輸出與評(píng)價(jià) 20
3.1.1 匯總 20
3.1.2 成本敏感學(xué)習(xí)方案評(píng)價(jià)指標(biāo)及工具 22
3.2 分類決策樹 29
3.2.1 ID3算法 29
3.2.2 C4.5算法 31
3.2.3 帶嫁接功能的C4.5算法 41
3.2.4 分類樹與回歸樹 42
3.2.5 減少-誤差剪枝決策樹 49
3.3 分類規(guī)則 50
3.3.1 分類規(guī)則算法基本思想 50
3.3.2 分類規(guī)則算法的基本方法——覆蓋算法 51
3.3.3 決策列表 59
3.3.4 基于全局優(yōu)化的分類規(guī)則 63
3.3.5 基于例外的分類規(guī)則——漣波下降算法 66
3.3.6 單屬性分類規(guī)則——1R分類算法 71
3.3.7 簡(jiǎn)單連接規(guī)則 75
3.3.8 簡(jiǎn)單分類規(guī)則 77
3.4 貝葉斯方法 77
3.4.1 貝葉斯方法基礎(chǔ) 77
3.4.2 樸素貝葉斯方法 80
3.4.3 多項(xiàng)式樸素貝葉斯方法 90
3.4.4 貝葉斯網(wǎng)絡(luò) 92
3.4.5 隱匿樸素貝葉斯方法 121
3.5 分類函數(shù) 125
3.5.1 logistic回歸 125
3.5.2 Winnow分類器 134
3.5.3 多層感知機(jī) 139
3.5.4 徑向基函數(shù)網(wǎng)絡(luò) 156
3.5.5 序列最小優(yōu)化算法 160
3.5.6 核logistic回歸 179
3.5.7 投票感知機(jī) 182
3.5.8 隨機(jī)梯度下降算法 184
3.6 惰性方法 187
3.6.1 惰性方法的基本思想 187
3.6.2 k-最近鄰分類器 188
第4章 數(shù)值預(yù)測(cè) 219
4.1 預(yù)測(cè)器的輸出與評(píng)價(jià) 219
4.1.1 反映預(yù)測(cè)值與實(shí)際值之間絕對(duì)偏差的度量指標(biāo) 219
4.1.2 反映預(yù)測(cè)值與實(shí)際值之間相對(duì)偏差的度量指標(biāo) 219
4.2 預(yù)測(cè)規(guī)則 220
4.2.1 簡(jiǎn)單連接規(guī)則 220
4.2.2 簡(jiǎn)單分類規(guī)則——0-規(guī)則分類器 221
4.3 預(yù)測(cè)函數(shù) 222
4.3.1 線性回歸 222
4.3.2 簡(jiǎn)單線性回歸 229
4.3.3 最小中值平方線性回歸 229
4.3.4 基于投影的線性回歸 232
4.3.5 保序回歸 234
4.3.6 序列最小優(yōu)化回歸 241
第5章 聚類 247
5.1 K-均值聚類 248
5.1.1 K-均值聚類的基本思想 248
5.1.2 初始化聚類中心 248
5.1.3 頂蓋方法 249
5.1.4 Weka實(shí)現(xiàn) 255
5.2 X-均值聚類 257
5.2.1 X-均值聚類的基本思想 257
5.2.2 聚類簇總數(shù)k的估計(jì) 257
5.2.3 基于kD樹的算法加速 260
5.2.4 Weka實(shí)現(xiàn) 264
5.3 層次聚類 265
5.3.1 層次聚類法的基本思想 265
5.3.2 凝聚聚類算法 266
5.3.3 Weka實(shí)現(xiàn) 270
5.4 增量聚類 271
5.4.1 增量聚類法的基本思想 271
5.4.2 分類效用 273
5.4.3 敏銳度 274
5.4.4 截?cái)鄥?shù) 275
5.4.5 Weka實(shí)現(xiàn) 276
5.5 基于概率的聚類 277
5.5.1 基于概率的聚類方法基礎(chǔ) 277
5.5.2 EM算法 279
5.5.3 擴(kuò)展混合模型 281
5.5.4 交叉驗(yàn)證與聚類簇總數(shù) 283
5.5.5 Weka實(shí)現(xiàn) 283
5.6 基于密度的聚類 285
5.6.1 基本概念 285
5.6.2 DBSCAN算法 286
5.6.3 OPTICS算法 288
5.6.4 Weka實(shí)現(xiàn) 291
5.7 CLOPE聚類 296
5.7.1 稀疏數(shù)據(jù) 296
5.7.2 CLOPE的基本思想 297
5.7.3 算法描述 298
5.7.4 算法實(shí)現(xiàn)細(xì)節(jié) 301
5.7.5 Weka實(shí)現(xiàn) 302
5.8 聚類方法輔助工具 303
5.8.1 FilteredClusterer 303
5.8.2 MakeDensityBasedClusterer 304
第6章 基于頻繁模式的關(guān)聯(lián)規(guī)則 305
6.1 模式挖掘的基本概念 305
6.1.1 頻繁模式 305
6.1.2 頻繁項(xiàng)集和關(guān)聯(lián)規(guī)則 306
6.1.3 閉頻繁項(xiàng)集和極大頻繁項(xiàng)集 308
6.1.4 模式評(píng)估度量 309
6.1.5 模式挖掘的分類 320
6.2 Apriori算法 322
6.2.1 算法思想及算法步驟 322
6.2.2 算法效率提升策略 327
6.2.3 典型模式提取 329
6.2.4 基于頻繁模式的分類器 338
6.2.5 Weka實(shí)現(xiàn) 342
6.3 FP-Growth算法 345
6.3.1 算法思想 345
6.3.2 算法步驟 349
6.3.3 基于約束的剪枝 350
6.3.4 Weka實(shí)現(xiàn) 355
6.4 模式挖掘方法的輔助工具 356
參考文獻(xiàn) 358