深度學習

第1章 緒論
1．1 引言
1．2 基本術語
1．3 監(jiān)督學習算法
1．3．1 支持向量機
1．3．2 決策樹
1．4 無監(jiān)督學習算法
1．4．1 主成分分析
1．4．2 K-均值聚類
1．5 機器學習
1．6 深度學習的趨勢
1．6．1 與日俱增的數據量
1．6．2 愈發(fā)龐大的計算資源
1．6．3 越來越高的性能以及解決實際問題的潛力
思考題
參考文獻
第2章 TensorFlow和Keras簡介
2．1 TensorFlow簡介
2．1．1 概述
2．1．2 TensorFlow的使用
2．1．3 TensorFlow的可視化
2．2 Keras簡介
2．2．1 Keras概述
2．2．2 Keras的使用
2．2．3 Keras的可視化
思考題
參考文獻
第3章 簡單神經網絡
3．1 人腦是如何學習的
3．2 模仿人腦——神經元（感知器）
3．3 非線性神經元
3．4 神經網絡架構
3．5 梯度下降
3．5．1 代價函數
3．5．2 梯度下降
3．6 反向傳播
3．6．1 多層神經網絡的數學表示
3．6．2 反向傳播算法原理
3．7 實現(xiàn)簡單神經網絡
思考題
參考文獻
第4章 圖像類數據處理
4．1 二維卷積神經網絡的基本原理
4．1．1 卷積神經網絡的原理
4．1．2 參數共享
4．1．3 池化
4．1．4 分類原理
4．2 簡單卷積神經網絡實例
4．3 過度擬合
4．3．1 容量、過擬合與欠擬合的基本概念
4．3．2 數據集增強
4．3．3 L2正則化一
4．3．4 L1正則化
4．3．5 Dropout
4．3．6 提前終止
4．4 時間優(yōu)化
4．4．1 交叉熵代價函數
4．4．2 批標準化
4．4．3 隨機梯度下降
4．4．4 動量
4．4．5 Nesterov動量
4．5 綜合二維卷積神經網絡實例
思考題
參考文獻
第5章 序列類數據處理
5．1 一維卷積神經網絡
5．1．1 一維卷積神經網絡的原理
5．1．2 一維卷積神經網絡實例
5．2 循環(huán)神經網絡
5．2．1 循環(huán)神經網絡的基本原理
5．2．2 循環(huán)神經網絡的輸出
5．2．3 上下文依賴型數據處理
5．2．4 序列到序列的數據處理
5．3 遞歸神經網絡
5．3．1 遞歸神經網絡的基本原理
5．3．2 長期依賴性
5．4 長短期記憶LSTM網絡
5．4．1 長短期記憶網絡的基本原理
5．4．2 長短期記憶網絡工程實例
思考題
參考文獻
第6章 深度學習模型優(yōu)化
6．1 參數初始化
6．2 超參數尋優(yōu)算法
6．2．1 手動超參數尋優(yōu)
6．2．2 超參數尋優(yōu)算法
6．3 基于梯度的自適應學習算法
6．3．1 AdaGrad算法一
6．3．2 RMSProp算法
6．3．3 Adam算法
6．4 生成對抗神經網絡及實例
6．5 遷移學習及實例
6．6 強化學習
6．7 模型優(yōu)化的局限性
6．7．1 局部極小值
6．7．2 梯度消失、梯度爆炸與懸崖
6．7．3 鞍點
6．7．4 長期依賴
6．7．5 梯度的非精確性
思考題
參考文獻
第7章 數據和模型的處理與調試
7．1 模型評價
7．2 數據預處理
7．3 基礎模型的選擇
7．4 模型調試
思考題
參考文獻
第8章 現(xiàn)代深度學習模型概述
8．1 玻爾茲曼機
8．1．1 標準玻爾茲曼機
8．1．2 受限玻爾茲曼機
8．1．3 深層玻爾茲曼機
8．2 自編碼器
8．2．1 標準自編碼器
8．2．2 稀疏自編碼器
8．2．3 降噪自編碼器
8．3 深度信念網絡及實例
8．4 殘差神經網絡及實例
8．5 膠囊神經網絡及實例
思考題
參考文獻
附錄
附錄A 基于深度學習的視頻目標跟蹤研究進展綜述
附錄B Q-Learning算法的參考代碼