Python大數(shù)據(jù)架構(gòu)全棧開發(fā)與應(yīng)用

第1章 數(shù)據(jù)架構(gòu)整體設(shè)計(jì) 1
1.1 數(shù)據(jù)架構(gòu)概述 1
1.2 數(shù)據(jù)架構(gòu)設(shè)計(jì)的8個(gè)考慮因素 1
1.2.1 適用性 2
1.2.2 延伸性 2
1.2.3 安全性 3
1.2.4 易用性 3
1.2.5 高性能 4
1.2.6 成本限制 5
1.2.7 應(yīng)用需求 5
1.2.8 運(yùn)維管理 5
1.3 數(shù)據(jù)架構(gòu)設(shè)計(jì)的4個(gè)核心內(nèi)容 6
1.3.1 物理架構(gòu) 6
1.3.2 邏輯架構(gòu) 10
1.3.3 技術(shù)架構(gòu) 13
1.3.4 數(shù)據(jù)流架構(gòu) 15
1.4 常見的6種數(shù)據(jù)架構(gòu) 17
1.4.1 簡單數(shù)據(jù)庫支撐的數(shù)據(jù)架構(gòu) 17
1.4.2 傳統(tǒng)數(shù)倉支撐的數(shù)據(jù)架構(gòu) 18
1.4.3 傳統(tǒng)大數(shù)據(jù)架構(gòu) 20
1.4.4 流式大數(shù)據(jù)架構(gòu) 22
1.4.5 流批一體大數(shù)據(jù)架構(gòu) 23
1.4.6 存算分離的流批一體大數(shù)據(jù)架構(gòu) 25
1.5 案例：某B2B企業(yè)的數(shù)據(jù)架構(gòu)選型 26
1.5.1 企業(yè)背景 26
1.5.2 應(yīng)用預(yù)期 27
1.5.3 數(shù)據(jù)現(xiàn)狀 27
1.5.4 選型分析 27
1.5.5 選型方案 28
1.5.6 未來拓展 29
1.6 常見問題 29
第2章 數(shù)據(jù)源和數(shù)據(jù)采集 32
2.1 數(shù)據(jù)源概述 32
2.1.1 常見的3種數(shù)據(jù)類型 32
2.1.2 常見的8種數(shù)據(jù)源 33
2.2 企業(yè)內(nèi)部流量數(shù)據(jù)采集技術(shù)選型 33
2.2.1 企業(yè)內(nèi)部流量數(shù)據(jù)采集常用的技術(shù) 34
2.2.2 內(nèi)部流量數(shù)據(jù)采集技術(shù)選型的因素 37
2.2.3 內(nèi)部流量數(shù)據(jù)采集技術(shù)選型總結(jié) 39
2.3 企業(yè)外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型 40
2.3.1 外部互聯(lián)網(wǎng)數(shù)據(jù)采集常用的4種技術(shù) 40
2.3.2 外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型的5個(gè)因素 44
2.3.3 外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型總結(jié) 44
2.4 使用Requests+BeautifulSoup抓取數(shù)據(jù)并寫入Sqlite 45
2.4.1 安裝配置 45
2.4.2 基本示例 46
2.4.3 高級用法 47
2.4.4 技術(shù)要點(diǎn) 53
2.5 使用Scrapy+XPath抓取數(shù)據(jù)并寫入MongoDB 54
2.5.1 安裝配置 54
2.5.2 基本示例 55
2.5.3 高級用法 62
2.5.4 技術(shù)要點(diǎn) 69
2.6 案例：某B2C電商企業(yè)的數(shù)據(jù)源結(jié)構(gòu) 69
2.6.1 企業(yè)背景 69
2.6.2 業(yè)務(wù)系統(tǒng) 69
2.6.3 數(shù)據(jù)源結(jié)構(gòu) 71
2.7 常見問題 71
第3章 數(shù)據(jù)同步 74
3.1 數(shù)據(jù)同步概述 74
3.1.1 數(shù)據(jù)同步的3種模式 74
3.1.2 數(shù)據(jù)同步的5種預(yù)處理技術(shù) 75
3.2 數(shù)據(jù)同步的技術(shù)選型 76
3.2.1 數(shù)據(jù)同步的7種技術(shù) 76
3.2.2 數(shù)據(jù)同步選型的9個(gè)因素 80
3.2.3 數(shù)據(jù)同步技術(shù)選型總結(jié) 82
3.3 Python操作DataX實(shí)現(xiàn)數(shù)據(jù)同步 83
3.3.1 安裝配置 84
3.3.2 基本示例 84
3.3.3 高級用法 89
3.3.4 技術(shù)要點(diǎn) 95
3.4 Python操作第三方庫實(shí)現(xiàn)Google Analytics數(shù)據(jù)同步 96
3.4.1 安裝配置 96
3.4.2 基本示例 100
3.4.3 高級用法 104
3.4.4 技術(shù)要點(diǎn) 111
3.5 案例：某O2O企業(yè)離線數(shù)據(jù)同步案例 112
3.6 常見問題 114
第4章 消息隊(duì)列 117
4.1 消息隊(duì)列概述 117
4.1.1 消息隊(duì)列的核心概念 117
4.1.2 選擇消息隊(duì)列的3種技術(shù)應(yīng)用場景 118
4.2 消息隊(duì)列的技術(shù)選型 119
4.2.1 常見的6種消息隊(duì)列技術(shù) 119
4.2.2 消息隊(duì)列技術(shù)選型的4個(gè)維度 121
4.2.3 消息隊(duì)列技術(shù)選型總結(jié) 123
4.3 Python操作RabbitMQ處理消息隊(duì)列服務(wù) 124
4.3.1 安裝配置 124
4.3.2 基本示例 125
4.3.3 高級用法 129
4.3.4 技術(shù)要點(diǎn) 131
4.4 Python操作Kafka處理消息隊(duì)列服務(wù) 132
4.4.1 安裝配置 132
4.4.2 基本示例 135
4.4.3 高級用法 138
4.4.4 技術(shù)要點(diǎn) 139
4.5 Python操作ZeroMQ處理消息隊(duì)列服務(wù) 140
4.5.1 安裝配置 140
4.5.2 基本示例 140
4.5.3 高級用法 146
4.5.4 技術(shù)要點(diǎn) 150
4.6 案例：利用消息隊(duì)列采集電商用戶行為數(shù)據(jù) 151
4.6.1 案例背景 151
4.6.2 主要技術(shù) 151
4.6.3 案例過程 152
4.6.4 案例小結(jié) 155
4.7 常見問題 156
第5章 關(guān)系數(shù)據(jù)庫 158
5.1 關(guān)系數(shù)據(jù)庫概述 158
5.1.1 關(guān)系數(shù)據(jù)庫的相關(guān)概念 158
5.1.2 使用關(guān)系數(shù)據(jù)庫的3種場景 158
5.2 關(guān)系數(shù)據(jù)庫的技術(shù)選型 159
5.2.1 常見的5種技術(shù)選型 159
5.2.2 關(guān)系數(shù)據(jù)庫選型的3個(gè)維度 161
5.2.3 關(guān)系數(shù)據(jù)庫技術(shù)選型總結(jié) 162
5.3 使用基于DB-API 2.0規(guī)范的PyMySQL操作MySQL數(shù)據(jù)庫 162
5.3.1 安裝配置 163
5.3.2 基本示例 163
5.3.3 高級用法 165
5.3.4 技術(shù)要點(diǎn) 169
5.4 使用基于ORM技術(shù)的SQLAlchemy操作PostgreSQL數(shù)據(jù)庫 170
5.4.1 安裝配置 170
5.4.2 基本示例 171
5.4.3 高級用法 175
5.4.4 技術(shù)要點(diǎn) 180
5.5 案例：某傳統(tǒng)零售企業(yè)基于關(guān)系數(shù)據(jù)庫的數(shù)據(jù)集市 181
5.5.1 企業(yè)背景 181
5.5.2 企業(yè)為什么選擇SQL Server作為數(shù)據(jù)集市 181
5.5.3 數(shù)據(jù)字典 181
5.5.4 應(yīng)用場景 183
5.6 常見問題 184
第6章 NoSQL數(shù)據(jù)庫 186
6.1 NoSQL數(shù)據(jù)庫概述 186
6.1.1 NoSQL數(shù)據(jù)庫的相關(guān)概念 186
6.1.2 使用NoSQL數(shù)據(jù)庫的5種場景 187
6.2 不同類型NoSQL數(shù)據(jù)庫的技術(shù)選型 188
6.2.1 常見的3種鍵值數(shù)據(jù)庫技術(shù)選型 188
6.2.2 常見的3種文檔型數(shù)據(jù)庫的技術(shù)選型 188
6.2.3 常見的兩種列式存儲數(shù)據(jù)庫的技術(shù)選型 190
6.2.4 常見的兩種圖數(shù)據(jù)庫的技術(shù)選型 190
6.2.5 NoSQL數(shù)據(jù)庫技術(shù)選型的五大維度 191
6.2.6 NoSQL數(shù)據(jù)庫技術(shù)選型總結(jié) 192
6.3 使用Python操作HBase 193
6.3.1 安裝配置 193
6.3.2 基本示例 195
6.3.3 HBase應(yīng)用過濾器進(jìn)行復(fù)雜查詢 199
6.3.4 批量操作 201
6.3.5 技術(shù)要點(diǎn) 201
6.4 使用Python操作Redis 202
6.4.1 安裝配置 202
6.4.2 基本示例 203
6.4.3 使用HyperLogLog實(shí)現(xiàn)獨(dú)立IP計(jì)數(shù)器 210
6.4.4 Redis數(shù)據(jù)持久化 212
6.4.5 技術(shù)要點(diǎn) 213
6.5 使用Python操作ES 213
6.5.1 安裝配置 213
6.5.2 基本示例 215
6.5.3 批量加載文檔到ES+使用Kibana進(jìn)行分析 220
6.5.4 技術(shù)要點(diǎn) 228
6.6 使用Python操作Neo4j 230
6.6.1 安裝配置 230
6.6.2 基本示例 231
6.6.3 APOC 234
6.6.4 技術(shù)要點(diǎn) 236
6.7 使用Python操作MongoDB 237
6.7.1 安裝配置 237
6.7.2 基本示例 237
6.7.3 文檔聚合與管道 239
6.7.4 技術(shù)要點(diǎn) 242
6.8 案例：某菜譜網(wǎng)站基于ES+Redis構(gòu)建智能搜索推薦引擎 243
6.8.1 案例背景 243
6.8.2 為什么選擇ES+Redis 243
6.8.3 系統(tǒng)架構(gòu) 244
6.8.4 相關(guān)要點(diǎn) 245
6.8.5 案例延伸 246
6.9 常見問題 246
第7章 批處理 247
7.1 批處理概述 247
7.1.1 批處理的基本特征 247
7.1.2 批處理的3類應(yīng)用場景 248
7.2 批處理的技術(shù)選型 248
7.2.1 批處理的5種技術(shù) 248
7.2.2 批處理選型的8個(gè)技術(shù)因素 250
7.2.3 批處理選型總結(jié) 251
7.3 Python使用PyHive操作HQL進(jìn)行批處理 252
7.3.1 安裝配置 252
7.3.2 基本示例 252
7.3.3 數(shù)據(jù)批量加載及處理 256
7.3.4 Hive函數(shù) 259
7.3.5 窗口 268
7.3.6 技術(shù)要點(diǎn) 272
7.4 PySpark操作DataFrame進(jìn)行批處理 273
7.4.1 安裝配置 273
7.4.2 基本示例 273
7.4.3 常用Spark DataFrame操作示例 277
7.4.4 使用Spark MLlib + DataFrame進(jìn)行特征工程 281
7.4.5 技術(shù)要點(diǎn) 282
7.5 案例：某B2C企業(yè)基于PySpark實(shí)現(xiàn)用戶畫像標(biāo)簽的構(gòu)建 283
7.6 常見問題 285
第8章 流處理 288
8.1 流處理概述 288
8.1.1 流處理的核心概念 288
8.1.2 流處理的3個(gè)特征 289
8.1.3 流處理的適用/不適用場景 289
8.2 流處理的依賴條件 290
8.2.1 流數(shù)據(jù) 290
8.2.2 流式應(yīng)用 291
8.3 流處理的技術(shù)選型 291
8.3.1 流處理的3種技術(shù) 291
8.3.2 流處理選型的7個(gè)技術(shù)因素 295
8.3.3 流處理技術(shù)選型總結(jié) 295
8.4 Python操作Structured Streaming實(shí)現(xiàn)流處理 296
8.4.1 安裝配置 296
8.4.2 基本示例 298
8.4.3 高級用法 322
8.4.4 技術(shù)要點(diǎn) 328
8.5 案例：某B2C企業(yè)基于Structured Streaming實(shí)現(xiàn)實(shí)時(shí)話題熱榜統(tǒng)計(jì) 330
8.6 常見問題 331
第9章 圖計(jì)算 333
9.1 圖計(jì)算概述 333
9.1.1 圖計(jì)算的特征 333
9.1.2 圖計(jì)算的算法和應(yīng)用場景 334
9.2 圖計(jì)算引擎的技術(shù)選型 335
9.2.1 圖計(jì)算的8種技術(shù) 335
9.2.2 圖計(jì)算選型的8個(gè)技術(shù)因素 338
9.2.3 圖計(jì)算選型總結(jié) 339
9.3 Python操作GraphFrames實(shí)現(xiàn)圖計(jì)算 341
9.3.1 安裝配置 341
9.3.2 構(gòu)建圖 341
9.3.3 視圖分析 342
9.3.4 子頂點(diǎn)、子邊和子圖過濾 344
9.3.5 度分析 345
9.3.6 模體查找 346
9.3.7 圖持久化 348
9.3.8 廣度優(yōu)先搜索 348
9.3.9 短路徑搜索 349
9.3.10 連通分量和強(qiáng)連通分量 351
9.3.11 標(biāo)簽傳播 351
9.3.12 通用網(wǎng)頁排名和個(gè)性化網(wǎng)頁排名 352
9.3.13 三角形計(jì)數(shù) 354
9.3.14 技術(shù)要點(diǎn) 355
9.4 案例：基于用戶社交行為的分析 355
9.5 常見問題 359
第10章 人工智能 361
10.1 人工智能概述 361
10.1.1 人工智能的4種應(yīng)用場景 361
10.1.2 人工智能的12類常用算法介紹 362
10.2 人工智能的技術(shù)選型 366
10.2.1 常見的3種技術(shù)框架 366
10.2.2 人工智能選型的6個(gè)因素 368
10.2.3 人工智能選型總結(jié) 369
10.3 PySpark ML的應(yīng)用實(shí)踐 370
10.3.1 準(zhǔn)備數(shù)據(jù) 371
10.3.2 特征工程和處理 373
10.3.3 核心算法應(yīng)用 375
10.3.4 Pipeline式應(yīng)用 381
10.3.5 訓(xùn)練和預(yù)測拆分及持久化操作 384
10.3.6 超參數(shù)優(yōu)化的