TensorFlow神經(jīng)網(wǎng)絡到深度學習

目錄
第1章 走進TENSORFLOW\t1
1．1 TensorFlow介紹\t1
1．1．1 TensorFlow特性\t1
1．1．2 誰可以使用TensorFlow\t2
1．1．3 為什么Google要開源這個
神器\t3
1．2 TensorFlow的環(huán)境搭建\t4
1．2．1 安裝環(huán)境介紹\t4
1．2．2 安裝TensorFlow\t5
1．2．3 Cuda和CuDNN的安裝\t7
1．2．4 Geany開發(fā)環(huán)境\t9
1．3 TensorFlow基本使用\t10
1．3．1 計算圖\t10
1．3．2 構(gòu)建圖\t10
1．3．3 在一個會話中啟動圖\t11
1．3．4 交互式使用\t12
1．3．5 Fetch\t12
1．3．6 Feed\t13
1．4 變量\t13
1．5 TensorFlow的隊列\(zhòng)t16
1．5．1 隊列的創(chuàng)建\t16
1．5．2 線程同步與停止\t19
1．5．3 隊列中數(shù)據(jù)的讀取\t20
1．6 TensorBoard可視化\t23
1．6．1 在TensorBoard中查看
圖結(jié)構(gòu)\t24
1．6．2 數(shù)據(jù)變化趨勢\t25
第2章 計算機視覺與深度學習\t28
2．1 計算機視覺\t28
2．1．1 人類視覺的啟迪\t28
2．1．2 計算機視覺的難點和
人工神經(jīng)網(wǎng)絡\t29
2．1．3 深度學習\t30
2．1．4 前深度學習時代的
計算機視覺\t31
2．1．5 仿生學角度看深度學習\t31
2．1．6 應用深度學習解決計算機
視覺問題\t32
2．2 深度學習在視覺上的應用\t33
2．2．1 人臉識別\t33
2．2．2 圖片問答問題\t33
2．2．3 物體檢測問題\t34
2．2．4 物體跟蹤\t36
2．3 計算機視覺的學習方式和
未來趨勢\t36
2．4 機器學習\t37
2．4．1 機器學習發(fā)展的歷程\t37
2．4．2 機器學習的步驟\t38
2．4．3 機器學習的分類\t38
2．4．4 機器學習的基本算法\t40
第3章 深度神經(jīng)網(wǎng)絡的基礎\t42
3．1 生物神經(jīng)元\t42
3．2 人工神經(jīng)元\t43
3．2．1 人工神經(jīng)元的數(shù)學模型\t43
3．2．2 人工神經(jīng)網(wǎng)絡\t44
3．2．3 激活函數(shù)\t45
3．2．4 神經(jīng)元之間的連接形式\t46
3．2．5 人工神經(jīng)網(wǎng)絡的分類\t47
3．3 激活函數(shù)\t47
3．3．1 sigmoid激活函數(shù)\t47
3．3．2 tanh激活函數(shù)\t49
3．3．3 relu激活函數(shù)\t50
3．3．4 dropout激活函數(shù)\t53
3．4 softmax處理分類問題\t54
3．4．1 什么是softmax\t54
3．4．2 softmax原理\t54
3．5 損失函數(shù)\t56
3．5．1 均值平方差\t56
3．5．2 交叉熵\t56
3．5．3 自定義損失函數(shù)\t57
3．6 梯度下降法\t59
3．6．1 梯度下降法的作用與分類\t59
3．6．2 退化學習率\t61
3．7 優(yōu)化函數(shù)\t62
3．7．1 隨機梯度下降優(yōu)化算法\t62
3．7．2 基于沖量優(yōu)化算法\t63
3．7．3 Adadelta優(yōu)化算法\t64
3．7．4 Adam優(yōu)化算法\t65
3．8 擬合\t67
3．8．1 過擬合和欠擬合\t68
3．8．2 正則化的方法\t68
第4章 全連接神經(jīng)網(wǎng)絡\t72
4．1 前饋神經(jīng)網(wǎng)絡簡介\t72
4．2 感知機\t74
4．2．1 感知機定義\t74
4．2．2 學習策略\t78
4．2．3 感知機學習算法\t78
4．3 全連接\t83
4．3．1 全連接結(jié)構(gòu)\t83
4．3．2 前向傳播算法\t84
4．4 線性模型的局限性\t87
4．5 多層網(wǎng)絡解決異域運算\t91
4．6 全連接神經(jīng)網(wǎng)絡的經(jīng)典實戰(zhàn)\t93
第5章 卷積神經(jīng)網(wǎng)絡\t99
5．1 人類視覺原理\t99
5．2 卷積運算\t100
5．2．1 卷積運算\t101
5．2．2 卷積函數(shù)實現(xiàn)\t102
5．2．3 標注圖像感興趣的區(qū)域\t106
5．2．4 池化運算\t107
5．2．5 加強卷積特征提取\t110
5．3 反卷積、反池化操作\t111
5．3．1 反卷積操作\t111
5．3．2 反池化操作\t114
5．4 卷積神經(jīng)網(wǎng)絡的介紹\t117
5．4．1 卷積神經(jīng)網(wǎng)絡的一般框架\t117
5．4．2 卷積神經(jīng)網(wǎng)絡的訓練\t119
5．4．3 利用卷積神經(jīng)網(wǎng)絡實現(xiàn)
數(shù)據(jù)集分類\t121
5．5 圖像數(shù)據(jù)處理\t126
5．5．1 圖像編碼處理\t127
5．5．2 翻轉(zhuǎn)圖像\t128
5．5．3 圖像色彩調(diào)整\t129
5．5．4 圖像標準化處理\t132
5．5．5 調(diào)整圖像大小\t133
5．5．6 圖像的標注框\t137
第6章 高級卷積神經(jīng)網(wǎng)絡\t140
6．1 LeNet-5卷積神經(jīng)網(wǎng)絡\t140
6．1．1 LeNet-5模型\t140
6．1．2 TensorFlow 實現(xiàn)簡單的
卷積神經(jīng)網(wǎng)絡\t142
6．2 AlexNet卷積神經(jīng)網(wǎng)絡\t145
6．2．1 AlexNet概述\t145
6．2．2 AlexNet結(jié)構(gòu)\t148
6．2．3 AlexNet實現(xiàn)\t150
6．3 VGGNet卷積神經(jīng)網(wǎng)絡\t154
6．3．1 VGGNet模型結(jié)構(gòu)\t155
6．3．2 VGGNet實現(xiàn)\t157
6．4 Inception v3卷積神經(jīng)網(wǎng)絡\t162
6．4．1 幾種 Inception模型\t162
6．4．2 Inception v3原理及實現(xiàn)\t163
6．5 ResNet卷積神經(jīng)網(wǎng)絡\t175
6．5．1 ResNet模型結(jié)構(gòu)\t175
6．5．2 ResNet實現(xiàn)\t177
第7章 循環(huán)神經(jīng)網(wǎng)絡\t184
7．1 RNN基礎概念和結(jié)構(gòu)\t184
7．2 RNN前后向傳播算法\t186
7．2．1 RNN前向傳播\t186
7．2．2 RNN后向傳播\t187
7．3 循環(huán)神經(jīng)網(wǎng)絡的梯度\t191
7．4 LSTM單元\t193
7．4．1 LSTM單元基本結(jié)構(gòu)\t193
7．4．2 LSTM的變體\t200
7．5 RNN的實現(xiàn)\t201
7．6 自然語言建模與詞向量\t214
7．6．1 統(tǒng)計學語言模型\t214
7．6．2 獨熱編碼\t217
7．6．3 詞向量與Word2vec\t217
7．7 LSTM實現(xiàn)語音識別\t226
7．7．1 語音特征介紹\t226
7．7．2 算法流程\t227
7．7．3 TensorFlow實現(xiàn)語音識別\t228
第8章 對抗神經(jīng)網(wǎng)絡\t235
8．1 理論知識\t235
8．1．1 GAN網(wǎng)絡結(jié)構(gòu)\t235
8．1．2 GAN原理\t236
8．1．3 基本架構(gòu)\t236
8．1．4 GAN 的特點及優(yōu)缺點\t237
8．2 DCGAN網(wǎng)絡\t243
8．3 InfoGAN網(wǎng)絡\t248
8．4 WGAN-GP網(wǎng)絡\t255
8．4．1 WGAN網(wǎng)絡的理論\t255
8．4．2 WGAN網(wǎng)絡的
改進WGAN-GP網(wǎng)絡\t256
8．4．3 WGAN-GP網(wǎng)絡的實現(xiàn)\t257
8．5 SRGAN網(wǎng)絡\t260
8．5．1 超分辨率技術\t260
8．5．2 ESPCN網(wǎng)絡實現(xiàn)數(shù)據(jù)的
超分辨率重建\t261
第9章 其他監(jiān)督學習\t264
9．1 支持向量機\t264
9．1．1 支持向量機的含義\t264
9．1．2 線性不可分支持向量機與
核函數(shù)\t273
9．1．3 SMO原理及實現(xiàn)\t280
9．2 樸素貝葉斯\t286
9．2．1 統(tǒng)計學知識\t286
9．2．2 樸素貝葉斯的模型\t287
9．2．3 樸素貝葉斯的推斷過程\t287
9．2．4 樸素貝葉斯的參數(shù)估計\t288
9．2．5 樸素貝葉斯算法過程\t289
9．2．6 樸素貝葉斯的實現(xiàn)\t290
9．3 決策樹\t292
9．3．1 認識決策樹\t293
9．3．2 ID3算法的介紹\t294
9．3．3 C4．5算法的介紹\t296
9．3．4 決策樹的實現(xiàn)\t297
9．4 k近鄰算法\t300
9．4．1 kNN算法三要素\t300
9．4．2 kd樹實現(xiàn)原理\t301
9．4．3 kNN算法的優(yōu)缺點\t302
9．4．4 kNN算法的實現(xiàn)\t303
第10章 非監(jiān)督學習\t305
10．1 主成分分析\t305
10．1．1 PCA思想\t305
10．1．2 基于最小投影距離\t306
10．1．3 基于最大投影方差\t307
10．1．4 PCA算法流程\t308
10．1．5 PCA的優(yōu)缺點\t308
10．1．6 PCA的實現(xiàn)\t309
10．2 k均值聚類\t312
10．2．1 距離測試\t312
10．2．2 k均值聚類原理\t317
10．2．3 傳統(tǒng)k均值算法流程\t318
10．2．4 K-Means++聚類算法\t322
10．3 自組織映射神經(jīng)網(wǎng)絡\t324
10．3．1 自組織映射算法\t325
10．3．2 與k均值的比較\t325
10．4 受限玻爾茲曼機\t330
10．5 譜聚類\t336
10．5．1 譜聚類的基礎知識\t336
10．5．2 譜聚類之切圖聚類\t339
10．5．3 譜聚類算法的實現(xiàn)\t343
第11章 自動編碼機\t345
11．1 自動編碼機原理\t345
11．2 標準自動編碼機\t346
11．3 稀疏自動編碼機\t351
11．4 去噪自動編碼機\t355
11．5 卷積自動編碼機\t360
第12章 強化學習\t366
12．1 強化學習的概述\t366
12．2 強化學習的學習過程\t367
12．3 OpenAI Gym原理及應用\t369
12．4 Q learning原理及應用\t371
12．5 DQN原理及應用\t377
參考文獻\t384