大數(shù)據(jù)采集與爬蟲

目錄
前言
任務(wù)1 Python環(huán)境搭建
11 任務(wù)描述
12 Python概述
13 Python編程環(huán)境搭建
131 在Windows操作系統(tǒng)下安裝Python
132 在 Linux操作系統(tǒng)下安裝Python
133 在 Mac OS操作系統(tǒng)下安裝Python
14 安裝集成開發(fā)環(huán)境PyCharm
141 PyCharm概述
142 PyCharm的安裝和運(yùn)行
15 Python的數(shù)據(jù)類型
151 整型
152 浮點(diǎn)型
153 字符串類型
154 列表類型
155 集合類型
156 字典類型
157 元組類型
16 Python語句與函數(shù)
161 條件判斷語句
162 循環(huán)語句
163 自定義函數(shù)
17 任務(wù)實(shí)現(xiàn)
18 小結(jié)
19 習(xí)題
任務(wù)2 實(shí)現(xiàn)簡(jiǎn)單數(shù)據(jù)采集
21 任務(wù)描述
22 網(wǎng)絡(luò)爬蟲基礎(chǔ)知識(shí)
221 網(wǎng)絡(luò)爬蟲概述
222 使用網(wǎng)絡(luò)爬蟲的風(fēng)險(xiǎn)
223 Python爬蟲的工作過程
23 網(wǎng)絡(luò)基礎(chǔ)知識(shí)
231 HTML
232 URI和URL
233 HTTP
234 Request和Response
24 requests庫的安裝及使用
241 requests庫概述
242 requests庫的安裝
243 requests庫的基本用法
25 lxml庫和BeautifulSoup庫的安裝及使用
251 lxml庫概述
252 BeautifulSoup庫概述
253 lxml庫和BeautifulSoup庫的安裝
254 lxml庫和BeautifulSoup庫的基本用法
26 任務(wù)實(shí)現(xiàn)
27 小結(jié)
28 習(xí)題
任務(wù)3 存儲(chǔ)數(shù)據(jù)
31 任務(wù)描述
32 MySQL的安裝及使用
321 MySQL概述
322 MySQL的安裝
323 MySQL的操作
33 PyMySQL的使用
34 CSV和JSON格式
341 CSV格式概述
342 輸出CSV文件頭部
343 使用Python讀取CSV文件數(shù)據(jù)
344 使用Python向CSV文件寫入數(shù)據(jù)
345 JSON格式概述
346 使用Python讀取JSON文件數(shù)據(jù)
347 使用Python向JSON文件寫入數(shù)據(jù)
35 任務(wù)實(shí)現(xiàn)
36 小結(jié)
37 習(xí)題
任務(wù)4 使用Web API采集數(shù)據(jù)
41 任務(wù)描述
42 GitHub
421 GitHub概述
422 GitHub的基本用法
43 Web API
431 Web API概述
432 GitHub開放API的數(shù)據(jù)特點(diǎn)
433 GitHub的API請(qǐng)求數(shù)據(jù)
434 獲取API的響應(yīng)數(shù)據(jù)
435 處理API的響應(yīng)數(shù)據(jù)
44 任務(wù)實(shí)現(xiàn)
45 小結(jié)
46 習(xí)題
任務(wù)5 使用AJAX采集數(shù)據(jù)
51 任務(wù)描述
52 AJAX
521 AJAX的起源
522 AJAX概述
523 AJAX的特點(diǎn)
524 靜態(tài)數(shù)據(jù)
525 動(dòng)態(tài)數(shù)據(jù)
526 分析AJAX采集的數(shù)據(jù)
527 提取AJAX采集的數(shù)據(jù)
53 任務(wù)實(shí)現(xiàn)
54 小結(jié)
55 習(xí)題
任務(wù)6 主流驗(yàn)證碼解析
61 驗(yàn)證碼概述
62 自定義圖形驗(yàn)證碼解析
621 任務(wù)描述
622 圖形驗(yàn)證碼概述
623 tesserocr庫概述
624 tesserocr庫的安裝
625 自定義圖形驗(yàn)證碼的生成
626 使用tesserocr庫解析自定義圖形驗(yàn)證碼
627 任務(wù)實(shí)現(xiàn)
63 滑動(dòng)驗(yàn)證碼解析
631 任務(wù)描述
632 滑動(dòng)驗(yàn)證碼概述
633 ChromeDriver概述
634 ChromeDriver的安裝
635 Selenium概述
636 Selenium的安裝
637 Selenium和ChromeDriver的基本用法
638 任務(wù)實(shí)現(xiàn)
64 點(diǎn)擊式驗(yàn)證碼解析
641 任務(wù)描述
642 點(diǎn)擊式驗(yàn)證碼概述
643 聚合數(shù)據(jù)平臺(tái)接口概述
644 任務(wù)實(shí)現(xiàn)
65 小結(jié)
66 習(xí)題
任務(wù)7 模擬登錄
71 使用Selenium和ChromeDriver實(shí)現(xiàn)模擬登錄
711 任務(wù)描述
712 GET概述
713 GET的基本用法
714 POST概述
715 POST的基本用法
716 GET和POST的區(qū)別
717 任務(wù)實(shí)現(xiàn)
72 使用Cookie實(shí)現(xiàn)模擬登錄
721 任務(wù)描述
722 Cookie概述
723 Session概述
724 Cookie和Session的區(qū)別
725 任務(wù)實(shí)現(xiàn)——使用Cookie模擬登錄
726 任務(wù)實(shí)現(xiàn)——使用requests庫實(shí)現(xiàn)用Cookie和Session模擬登錄
73 小結(jié)
74 習(xí)題
任務(wù)8 使用Scrapy爬蟲框架采集數(shù)據(jù)
81 任務(wù)描述
82 Scrapy
821 Scrapy概述
822 Scrapy的工作原理
83 Scrapy的安裝
831 在Windows操作系統(tǒng)下安裝Scrapy
832 在Linux操作系統(tǒng)下安裝Scrapy
84 Scrapy各組件的用法
841 Selector類
842 Spider類
843 下載器中間件
844 條目管道
845 網(wǎng)絡(luò)爬蟲中間件
85 任務(wù)實(shí)現(xiàn)
86 小結(jié)
87 習(xí)題
任務(wù)9 綜合案例
91 任務(wù)描述
92 頁面分析
93 模擬登錄
94 獲取靜態(tài)數(shù)據(jù)
95 獲取動(dòng)態(tài)數(shù)據(jù)
96 數(shù)據(jù)持久化保存
97 小結(jié)