數(shù)據(jù)挖掘基礎(chǔ)算法理論與Weka應(yīng)用技術(shù)

目錄
第1章 緒論 1
1.1 數(shù)據(jù)挖掘 1
1.1.1 數(shù)據(jù)挖掘是什么 2
1.1.2 數(shù)據(jù)挖掘的功能 3
1.1.3 數(shù)據(jù)挖掘的過(guò)程 4
1.1.4 數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí) 5
1.2 Weka簡(jiǎn)介 6
1.3 示例數(shù)據(jù)集 9
1.3.1 天氣問(wèn)題 9
1.3.2 鳶尾花問(wèn)題 11
1.3.3 CPU性能問(wèn)題 11
1.3.4 購(gòu)物籃問(wèn)題 12
1.3.5 美國(guó)國(guó)會(huì)投票記錄 13
第2章 認(rèn)識(shí)數(shù)據(jù) 14
2.1 概念、實(shí)例集、屬性 14
2.2 ARFF格式文件 16
第3章 分類(lèi) 20
3.1 分類(lèi)器的輸出與評(píng)價(jià) 20
3.1.1 匯總 20
3.1.2 成本敏感學(xué)習(xí)方案評(píng)價(jià)指標(biāo)及工具 22
3.2 分類(lèi)決策樹(shù) 29
3.2.1 ID3算法 29
3.2.2 C4.5算法 31
3.2.3 帶嫁接功能的C4.5算法 41
3.2.4 分類(lèi)樹(shù)與回歸樹(shù) 42
3.2.5 減少-誤差剪枝決策樹(shù) 49
3.3 分類(lèi)規(guī)則 50
3.3.1 分類(lèi)規(guī)則算法基本思想 50
3.3.2 分類(lèi)規(guī)則算法的基本方法——覆蓋算法 51
3.3.3 決策列表 59
3.3.4 基于全局優(yōu)化的分類(lèi)規(guī)則 63
3.3.5 基于例外的分類(lèi)規(guī)則——漣波下降算法 66
3.3.6 單屬性分類(lèi)規(guī)則——1R分類(lèi)算法 71
3.3.7 簡(jiǎn)單連接規(guī)則 75
3.3.8 簡(jiǎn)單分類(lèi)規(guī)則 77
3.4 貝葉斯方法 77
3.4.1 貝葉斯方法基礎(chǔ) 77
3.4.2 樸素貝葉斯方法 80
3.4.3 多項(xiàng)式樸素貝葉斯方法 90
3.4.4 貝葉斯網(wǎng)絡(luò) 92
3.4.5 隱匿樸素貝葉斯方法 121
3.5 分類(lèi)函數(shù) 125
3.5.1 logistic回歸 125
3.5.2 Winnow分類(lèi)器 134
3.5.3 多層感知機(jī) 139
3.5.4 徑向基函數(shù)網(wǎng)絡(luò) 156
3.5.5 序列最小優(yōu)化算法 160
3.5.6 核logistic回歸 179
3.5.7 投票感知機(jī) 182
3.5.8 隨機(jī)梯度下降算法 184
3.6 惰性方法 187
3.6.1 惰性方法的基本思想 187
3.6.2 k-最近鄰分類(lèi)器 188
第4章 數(shù)值預(yù)測(cè) 219
4.1 預(yù)測(cè)器的輸出與評(píng)價(jià) 219
4.1.1 反映預(yù)測(cè)值與實(shí)際值之間絕對(duì)偏差的度量指標(biāo) 219
4.1.2 反映預(yù)測(cè)值與實(shí)際值之間相對(duì)偏差的度量指標(biāo) 219
4.2 預(yù)測(cè)規(guī)則 220
4.2.1 簡(jiǎn)單連接規(guī)則 220
4.2.2 簡(jiǎn)單分類(lèi)規(guī)則——0-規(guī)則分類(lèi)器 221
4.3 預(yù)測(cè)函數(shù) 222
4.3.1 線性回歸 222
4.3.2 簡(jiǎn)單線性回歸 229
4.3.3 最小中值平方線性回歸 229
4.3.4 基于投影的線性回歸 232
4.3.5 保序回歸 234
4.3.6 序列最小優(yōu)化回歸 241
第5章 聚類(lèi) 247
5.1 K-均值聚類(lèi) 248
5.1.1 K-均值聚類(lèi)的基本思想 248
5.1.2 初始化聚類(lèi)中心 248
5.1.3 頂蓋方法 249
5.1.4 Weka實(shí)現(xiàn) 255
5.2 X-均值聚類(lèi) 257
5.2.1 X-均值聚類(lèi)的基本思想 257
5.2.2 聚類(lèi)簇總數(shù)k的估計(jì) 257
5.2.3 基于kD樹(shù)的算法加速 260
5.2.4 Weka實(shí)現(xiàn) 264
5.3 層次聚類(lèi) 265
5.3.1 層次聚類(lèi)法的基本思想 265
5.3.2 凝聚聚類(lèi)算法 266
5.3.3 Weka實(shí)現(xiàn) 270
5.4 增量聚類(lèi) 271
5.4.1 增量聚類(lèi)法的基本思想 271
5.4.2 分類(lèi)效用 273
5.4.3 敏銳度 274
5.4.4 截?cái)鄥?shù) 275
5.4.5 Weka實(shí)現(xiàn) 276
5.5 基于概率的聚類(lèi) 277
5.5.1 基于概率的聚類(lèi)方法基礎(chǔ) 277
5.5.2 EM算法 279
5.5.3 擴(kuò)展混合模型 281
5.5.4 交叉驗(yàn)證與聚類(lèi)簇總數(shù) 283
5.5.5 Weka實(shí)現(xiàn) 283
5.6 基于密度的聚類(lèi) 285
5.6.1 基本概念 285
5.6.2 DBSCAN算法 286
5.6.3 OPTICS算法 288
5.6.4 Weka實(shí)現(xiàn) 291
5.7 CLOPE聚類(lèi) 296
5.7.1 稀疏數(shù)據(jù) 296
5.7.2 CLOPE的基本思想 297
5.7.3 算法描述 298
5.7.4 算法實(shí)現(xiàn)細(xì)節(jié) 301
5.7.5 Weka實(shí)現(xiàn) 302
5.8 聚類(lèi)方法輔助工具 303
5.8.1 FilteredClusterer 303
5.8.2 MakeDensityBasedClusterer 304
第6章 基于頻繁模式的關(guān)聯(lián)規(guī)則 305
6.1 模式挖掘的基本概念 305
6.1.1 頻繁模式 305
6.1.2 頻繁項(xiàng)集和關(guān)聯(lián)規(guī)則 306
6.1.3 閉頻繁項(xiàng)集和極大頻繁項(xiàng)集 308
6.1.4 模式評(píng)估度量 309
6.1.5 模式挖掘的分類(lèi) 320
6.2 Apriori算法 322
6.2.1 算法思想及算法步驟 322
6.2.2 算法效率提升策略 327
6.2.3 典型模式提取 329
6.2.4 基于頻繁模式的分類(lèi)器 338
6.2.5 Weka實(shí)現(xiàn) 342
6.3 FP-Growth算法 345
6.3.1 算法思想 345
6.3.2 算法步驟 349
6.3.3 基于約束的剪枝 350
6.3.4 Weka實(shí)現(xiàn) 355
6.4 模式挖掘方法的輔助工具 356
參考文獻(xiàn) 358