Python數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)實(shí)戰(zhàn)

前言
第1章 機(jī)器學(xué)習(xí)基礎(chǔ)1
1.1 機(jī)器學(xué)習(xí)概述2
1.2 機(jī)器學(xué)習(xí)的發(fā)展歷程2
1.3 機(jī)器學(xué)習(xí)分類(lèi)3
1.3.1 監(jiān)督學(xué)習(xí)3
1.3.2 無(wú)監(jiān)督學(xué)習(xí)3
1.3.3 強(qiáng)化學(xué)習(xí)4
1.3.4 深度學(xué)習(xí)4
1.4 機(jī)器學(xué)習(xí)的應(yīng)用4
1.5 開(kāi)發(fā)機(jī)器學(xué)習(xí)的步驟7
1.6 Python語(yǔ)言的優(yōu)勢(shì)8
1.6.1 可執(zhí)行偽代碼8
1.6.2 Python語(yǔ)言使用廣泛8
1.6.3 Python語(yǔ)言特色8
1.6.4 Python語(yǔ)言的缺點(diǎn)9
1.7 Python開(kāi)發(fā)工具介紹9
1.7.1 IDLE簡(jiǎn)介10
1.7.2 IPython簡(jiǎn)介11
1.7.3 PyCharm簡(jiǎn)介11
1.7.4 Jupyter Notebook簡(jiǎn)介12
1.7.5 Anaconda和Spyder簡(jiǎn)介13
1.8 本章小結(jié)15
第2章 Python語(yǔ)言簡(jiǎn)介16
2.1 搭建Python開(kāi)發(fā)環(huán)境16
2.1.1 安裝Anaconda16
2.1.2 安裝Spyder18
2.1.3 運(yùn)行和保存Python程序19
2.2 Python計(jì)算與變量19
2.2.1 用Python做簡(jiǎn)單的計(jì)算20
2.2.2 Python的運(yùn)算符20
2.2.3 Python的變量21
2.3 Python的字符串22
2.4 Python的列表23
2.5 Python的元組25
2.6 Python的字典27
2.7 網(wǎng)絡(luò)爬蟲(chóng)的發(fā)展歷史和分類(lèi)28
2.7.1 網(wǎng)絡(luò)爬蟲(chóng)的發(fā)展歷史28
2.7.2 網(wǎng)絡(luò)爬蟲(chóng)的分類(lèi)30
2.8 網(wǎng)絡(luò)爬蟲(chóng)的原理30
2.8.1 理論概述30
2.8.2 爬蟲(chóng)的工作流程31
2.9 爬蟲(chóng)框架介紹36
2.9.1 Scrapy介紹36
2.9.2 XPath介紹39
2.10 網(wǎng)絡(luò)爬蟲(chóng)的設(shè)計(jì)與實(shí)現(xiàn)40
2.10.1 網(wǎng)絡(luò)爬蟲(chóng)的總體設(shè)計(jì)40
2.10.2 具體實(shí)現(xiàn)過(guò)程40
2.10.3 爬蟲(chóng)結(jié)果與分析45
2.11 本章小結(jié)49
第3章 回歸分析50
3.1 回歸分析概述50
3.1.1 基本概念50
3.1.2 可以解決的問(wèn)題51
3.1.3 回歸分析的步驟51
3.2 線(xiàn)性回歸51
3.2.1 簡(jiǎn)單線(xiàn)性回歸分析51
3.2.2 多元線(xiàn)性回歸分析52
3.2.3 非線(xiàn)性回歸數(shù)據(jù)分析52
3.3 用Python實(shí)現(xiàn)一元線(xiàn)性回歸53
3.4 用Python實(shí)現(xiàn)多元線(xiàn)性回歸56
3.4.1 使用pandas讀取數(shù)據(jù)56
3.4.2 分析數(shù)據(jù)57
3.4.3 線(xiàn)性回歸模型58
3.5 基于線(xiàn)性回歸的股票預(yù)測(cè)62
3.5.1 數(shù)據(jù)獲取62
3.5.2 數(shù)據(jù)預(yù)處理63
3.5.3 編碼實(shí)現(xiàn)64
3.5.4 結(jié)果分析65
3.6 邏輯回歸66
3.6.1 構(gòu)造預(yù)測(cè)函數(shù)67
3.6.2 構(gòu)造損失函數(shù)J68
3.6.3 梯度下降法求解最小值69
3.7 基于邏輯回歸的環(huán)境數(shù)據(jù)檢測(cè)71
3.7.1 數(shù)據(jù)來(lái)源71
3.7.2 數(shù)據(jù)處理72
3.7.3 異常數(shù)據(jù)分析72
3.7.4 數(shù)據(jù)預(yù)測(cè)74
3.8 本章小結(jié)76
第4章 決策樹(shù)與隨機(jī)森林77
4.1 決策樹(shù)77
4.1.1 決策樹(shù)的基本原理77
4.1.2 決策樹(shù)的分類(lèi)78
4.1.3 決策樹(shù)的優(yōu)缺點(diǎn)81
4.2 使用決策樹(shù)對(duì)鳶尾花分類(lèi)82
4.2.1 Iris數(shù)據(jù)集簡(jiǎn)介82
4.2.2 讀取數(shù)據(jù)83
4.2.3 鳶尾花類(lèi)別83
4.2.4 數(shù)據(jù)可視化84
4.2.5 訓(xùn)練和分類(lèi)85
4.2.6 數(shù)據(jù)集多類(lèi)分類(lèi)86
4.2.7 實(shí)驗(yàn)結(jié)果86
4.3 隨機(jī)森林87
4.3.1 隨機(jī)森林的基本原理87
4.3.2 隨機(jī)森林的收斂性88
4.3.3 隨機(jī)森林的OOB估計(jì)89
4.3.4 隨機(jī)森林的隨機(jī)特征選取89
4.3.5 隨機(jī)森林的優(yōu)缺點(diǎn)90
4.4 葡萄酒數(shù)據(jù)集的隨機(jī)森林分類(lèi)91
4.4.1 數(shù)據(jù)收集91
4.4.2 相關(guān)庫(kù)函數(shù)簡(jiǎn)介92
4.4.3 數(shù)據(jù)基本分析93
4.4.4 使用隨機(jī)森林構(gòu)建模型97
4.4.5 實(shí)驗(yàn)結(jié)果98
4.5 本章小結(jié)99
第5章 支持向量機(jī)100
5.1 SVM的工作原理及分類(lèi)100
5.1.1 支持向量機(jī)的原理100
5.1.2 線(xiàn)性可分的支持向量機(jī)101
5.1.3 非線(xiàn)性可分的支持向量機(jī)102
5.2 核函數(shù)103
5.2.1 核函數(shù)簡(jiǎn)介103
5.2.2 幾種常見(jiàn)的核函數(shù)104
5.2.3 核函數(shù)如何處理非線(xiàn)性數(shù)據(jù)104
5.2.4 如何選擇合適的核函數(shù)105
5.3 SVR簡(jiǎn)介106
5.3.1 SVR原理106
5.3.2 SVR模型106
5.4 時(shí)間序列曲線(xiàn)預(yù)測(cè)107
5.4.1 生成訓(xùn)練數(shù)據(jù)集107
5.4.2 運(yùn)用不同的核函數(shù)進(jìn)行支持向量回歸108
5.4.3 生成測(cè)試數(shù)據(jù)集109
5.4.4 預(yù)測(cè)并生成圖表110
5.4.5 獲取預(yù)測(cè)誤差111
5.4.6 創(chuàng)建數(shù)據(jù)集112
5.4.7 選取最優(yōu)參數(shù)112
5.4.8 預(yù)測(cè)并生成圖表112
5.4.9 獲取預(yù)測(cè)誤差113
5.5 本章小結(jié)114
第6章 隱馬爾可夫模型115
6.1 隱馬爾可夫模型簡(jiǎn)介115
6.1.1 隱馬爾可夫模型的概念115
6.1.2 詳例描述116
6.1.3 HMM流程117
6.2 Viterbi算法117
6.3 HMM模型用于中文分詞119
6.3.1 UI界面119
6.3.2 數(shù)據(jù)及其編碼119
6.3.3 HMM模型121
6.3.4 實(shí)驗(yàn)結(jié)果122
6.4 本章小結(jié)124
第7章 BP神經(jīng)網(wǎng)絡(luò)模型125
7.1 背景介紹125
7.2 結(jié)構(gòu)特點(diǎn)126
7.3 網(wǎng)絡(luò)模型126
7.4 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介127
7.4.1 神經(jīng)元127
7.4.2 單層神經(jīng)網(wǎng)絡(luò)128
7.4.3 雙層神經(jīng)網(wǎng)絡(luò)129
7.4.4 多層神經(jīng)網(wǎng)絡(luò)130
7.5 BP神經(jīng)網(wǎng)絡(luò)131
7.6 通過(guò)TensorFlow實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)132
7.7 本章小結(jié)134
第8章 卷積神經(jīng)網(wǎng)絡(luò)135
8.1 傳統(tǒng)圖像識(shí)別技術(shù)135
8.1.1 圖像預(yù)處理135
8.1.2 圖像特征提取136
8.1.3 圖像分類(lèi)方法136
8.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)介137
8.2.1 卷積神經(jīng)網(wǎng)絡(luò)發(fā)展歷程137
8.2.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)介137
8.3 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)及原理139
8.3.1 卷積層139
8.3.2 池化層140
8.3.3 激活函數(shù)142
8.3.4 全連接層144
8.3.5 反饋運(yùn)算144
8.4 卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)146
8.5 雷達(dá)剖面圖識(shí)別模型148
8.5.1 數(shù)據(jù)準(zhǔn)備148
8.5.2 構(gòu)建模型150
8.6 模型測(cè)試分析157
8.6.1 部署基本模塊157
8.6.2 創(chuàng)建項(xiàng)目結(jié)構(gòu)157
8.6.3 訓(xùn)練網(wǎng)絡(luò)158
8.6.4 自動(dòng)化測(cè)試158
8.7 本章小結(jié)160
第9章 循環(huán)神經(jīng)網(wǎng)絡(luò)161
9.1 自然語(yǔ)言處理161
9.1.1 自然語(yǔ)言處理概述161
9.1.2 自然語(yǔ)言處理應(yīng)用162
9.2 對(duì)話(huà)系統(tǒng)163
9.2.1 對(duì)話(huà)系統(tǒng)分類(lèi)163
9.2.2 聊天機(jī)器人分類(lèi)164
9.3 基于LSTM結(jié)構(gòu)的循環(huán)神經(jīng)網(wǎng)絡(luò)165
9.3.1 循環(huán)神經(jīng)網(wǎng)絡(luò)165
9.3.2 通過(guò)時(shí)間反向傳播166
9.3.3 長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）169
9.4 Seq2Seq模型172
9.4.1 Encoder-Decoder框架173
9.4.2 Attention機(jī)制174
9.5 聊天機(jī)器人的程序?qū)崿F(xiàn)176
9.5.1 準(zhǔn)備數(shù)據(jù)176
9.5.2 創(chuàng)建模型178
9.5.3 訓(xùn)練模型179
9.5.4 測(cè)試模型180
9.6 本章小結(jié)181
第10章 聚類(lèi)與集成算法182
10.1 聚類(lèi)方法簡(jiǎn)介182
10.1.1 聚類(lèi)定義183
10.1.2 聚類(lèi)要求183
10.2 聚類(lèi)算法184
10.2.1 劃分方法184
10.2.2 層次方法184
10.2.3 基于密度的方法184
10.2.4 基于網(wǎng)格的方法185
10.2.5 基于模型的方法185
10.3 K-Means算法185
10.3.1 K-Means算法概述185
10.3.2 K-Means算法流程185
10.3.3 K-Means算法實(shí)現(xiàn)186
10.3.4 實(shí)驗(yàn)結(jié)果及分析188
10.3.5 K-Means算法存在的問(wèn)題188
10.4 K-Means++算法189
10.4.1 K-Means++的基本思想189
10.4.2 K-Means++的數(shù)學(xué)描述190
10.4.3 K-Means++算法流程190
10.5 K-Means++的實(shí)現(xiàn)191
10.5.1 數(shù)據(jù)集191
10.5.2 代碼實(shí)現(xiàn)192
10.5.3 K-Means++實(shí)驗(yàn)結(jié)果193
10.6 Adaboost集成算法的原理194
10.6.1 Boosting算法的基本原理194
10.6.2 Adaboost算法介紹195
10.6.3 Adaboost分類(lèi)問(wèn)題的損失函數(shù)優(yōu)化197
10.6.4 Adaboost二元分類(lèi)問(wèn)題的算法流程198
10.6.5 Adaboost回歸問(wèn)題的算法流程199
10.6.6 Adaboost算法的正則化200
10.6.7 Adaboost的優(yōu)缺點(diǎn)200
10.7 Adaboost算法實(shí)現(xiàn)201
10.7.1 數(shù)據(jù)集處理201
10.7.2 實(shí)現(xiàn)過(guò)程201
10.7.3 實(shí)驗(yàn)結(jié)果分析206
10.8 本章小結(jié)208
第11章 其他機(jī)器學(xué)習(xí)算法209
11.1 貝葉斯分類(lèi)器210
11.1.1 概率基礎(chǔ)知識(shí)210
11.1.2 貝葉斯決策準(zhǔn)則211
11.1.3 極大似然估計(jì)212
11.2 貝葉斯分類(lèi)模型213
11.2.1 樸素貝葉斯分類(lèi)模型213
11.2.2 半樸素貝葉斯分類(lèi)模型216
11.2.3 貝葉斯網(wǎng)絡(luò)分類(lèi)模型217
11.3 樸素貝葉斯分類(lèi)器在破產(chǎn)預(yù)測(cè)中的應(yīng)用219
11.3.1 數(shù)據(jù)集219
11.3.2 訓(xùn)練多項(xiàng)式樸素貝葉斯模型220
11.4 在線(xiàn)學(xué)習(xí)222
11.4.1 線(xiàn)性模型的在線(xiàn)學(xué)習(xí)222
11.4.2 非線(xiàn)性模型的在線(xiàn)學(xué)習(xí)224
11.5 Bandit在線(xiàn)學(xué)習(xí)算法225
11.5.1 Bandit算法與推薦系統(tǒng)226
11.5.2 常用Bandit算法226
11.6 Bandit算法原理及實(shí)現(xiàn)228
11.7 GAN網(wǎng)絡(luò)229
11.7.1 GAN產(chǎn)生的背景230
11.7.2 模型結(jié)構(gòu)230
11.7.3 GAN的實(shí)現(xiàn)原理232
11.8 DCGAN網(wǎng)絡(luò)236
11.8.1 模型結(jié)構(gòu)236
11.8.2 反卷積237
11.9 DCGAN人臉生成240
11.9.1 實(shí)驗(yàn)準(zhǔn)備240
11.9.2 關(guān)鍵模塊的實(shí)現(xiàn)240
11.9.3 實(shí)驗(yàn)結(jié)果展示243
11.10 本章小結(jié)245
附錄A 機(jī)器學(xué)習(xí)常見(jiàn)面試題246
附錄B 數(shù)學(xué)基礎(chǔ)257
B.1 常用符號(hào)257
B.2 數(shù)學(xué)基礎(chǔ)知識(shí)259
B.2.1 線(xiàn)性代數(shù)259
B.2.2 概率論261
B.2.3 信息論262
參考文獻(xiàn)264