譯者序
前言
作者簡介
審校者簡介
第一部分核心概念
第1章神經網絡的具體細節(jié)2
1.1神經網絡的數(shù)學基礎2
1.1.1線性代數(shù)2
1.1.2概率介紹6
1.1.3微分學16
1.2神經網絡的簡單介紹18
1.2.1神經元18
1.2.2層的運算19
1.2.3神經網絡21
1.2.4激活函數(shù)22
1.2.5通用逼近定理25
1.3訓練神經網絡27
1.3.1梯度下降27
1.3.2代價函數(shù)28
1.3.3反向傳播30
1.3.4權重初始化32
1.3.5SGD改進33
1.4總結35
第二部分計算機視覺
第2章理解卷積網絡38
2.1理解CNN38
2.1.1卷積類型43
2.1.2提高CNN的效率46
2.1.3可視化CNN51
2.1.4CNN正則化54
2.2遷移學習介紹56
2.2.1使用PyTorch實現(xiàn)遷移學習57
2.2.2使用TensorFlow 2.0實現(xiàn)遷移學習62
2.3總結66
第3章高級卷積網絡67
3.1AlexNet介紹67
3.2VGG介紹68
3.3理解殘差網絡70
3.4理解Inception網絡78
3.4.1Inception v179
3.4.2Inception v2和v380
3.4.3Inception v4和InceptionResNet81
3.5Xception介紹82
3.6MobileNet介紹83
3.7DenseNet介紹85
3.8神經架構搜索的工作原理87
3.9膠囊網絡介紹91
3.9.1卷積網絡的局限性91
3.9.2膠囊92
3.9.3膠囊網絡的結構94
3.10總結95
第4章對象檢測與圖像分割96
4.1對象檢測介紹96
4.1.1對象檢測的方法96
4.1.2使用YOLO v3進行對象檢測98
4.1.3使用Faster RCNN進行對象檢測104
4.2圖像分割介紹110
4.2.1使用UNet進行語義分割110
4.2.2使用Mask RCNN進行實例分割112
4.3總結115
第5章生成模型116
5.1生成模型的直覺和證明116
5.2VAE介紹117
5.3GAN介紹124
5.3.1訓練GAN125
5.3.2實現(xiàn)GAN128
5.3.3訓練GAN的缺陷129
5.4GAN的類型129
5.4.1DCGAN130
5.4.2CGAN135
5.4.3WGAN137
5.4.4使用CycleGAN實現(xiàn)圖像到圖像的轉換142
5.5藝術風格遷移介紹150
5.6總結151
第三部分自然語言和序列處理
第6章語言建模154
6.1理解ngram154
6.2神經語言模型介紹156
6.2.1神經概率語言模型157
6.2.2word2vec158
6.2.3GloVe模型161
6.3實現(xiàn)語言模型164
6.3.1訓練嵌入模型164
6.3.2可視化嵌入向量166
6.4總結169
第7章理解RNN170
7.1RNN介紹170
7.2長短期記憶介紹180
7.3門控循環(huán)單元介紹187
7.4實現(xiàn)文本分類189
7.5總結193
第8章seq2seq模型和注意力機制194
8.1seq2seq模型介紹194
8.2使用注意力的seq2seq196
8.2.1Bahdanau Attention196
8.2.2Luong Attention199
8.2.3一般注意力200
8.2.4使用注意力實現(xiàn)seq2seq201
8.3理解transformer207
8.3.1transformer注意力207
8.3.2transformer模型210
8.3.3實現(xiàn)transformer212
8.4transformer語言模型219
8.4.1基于transformer的雙向編碼器表示219
8.4.2transformerXL224
8.4.3XLNet227
8.4.4使用transformer語言模型生成文本230
8.5總結231
第四部分展望未來
第9章新興的神經網絡設計234
9.1GNN介紹234
9.1.1循環(huán)GNN236
9.1.2卷積圖神經網絡238
9.1.3圖自編碼器244
9.1.4神經圖學習246
9.2記憶增強神經網絡介紹251
9.2.1神經圖靈機251
9.2.2MANN*256
9.3總結257
第10章元學習258
10.1元學習介紹258
10.1.1零樣本學習259
10.1.2單樣本學習260
10.1.3元訓練和元測試261
10.2基于度量的元學習262
10.2.1為單樣本學習匹配網絡263
10.2.2孿生網絡264
10.2.3原型網絡267
10.3基于優(yōu)化的元學習269
10.4總結274
第11章自動駕駛汽車的深度學習275
11.1自動駕駛汽車介紹275
11.1.1自動駕駛汽車研究簡史275
11.1.2自動化的級別277
11.2自動駕駛汽車系統(tǒng)的組件278
11.2.1環(huán)境感知280
11.2.2路徑規(guī)劃282
11.33D數(shù)據(jù)處理介紹282
11.4模仿駕駛策略285
11.5ChauffeurNet駕駛策略294
11.5.1輸入/輸出表示294
11.5.2模型架構296
11.5.3訓練297
11.6總結300