GAN：實(shí)戰(zhàn)生成對(duì)抗網(wǎng)絡(luò)

前言
1 深度學(xué)習(xí)概述
1.1 深度學(xué)習(xí)的演化
1.1.1 sigmoid激發(fā)
1.1.2 修正線性單元（ReLU）
1.1.3 指數(shù)線性單元（ELU）
1.1.4 隨機(jī)梯度下降（SGD）
1.1.5 學(xué)習(xí)速率調(diào)優(yōu)
1.1.6 正則化
1.1.7 權(quán)重分享以及池化
1.1.8 局部感受野
1.1.9 卷積網(wǎng)絡(luò)（ConvNet）
1.2 逆卷積/轉(zhuǎn)置卷積
1.2.1 遞歸神經(jīng)網(wǎng)絡(luò)和LSTM
1.2.2 深度神經(jīng)網(wǎng)絡(luò)
1.2.3 判別模型和生成模型的對(duì)比
1.3 總結(jié)
2 無(wú)監(jiān)督學(xué)習(xí)GAN
2.1 利用深度神經(jīng)網(wǎng)絡(luò)自動(dòng)化人類(lèi)任務(wù)
2.1.1 GAN的目的
2.1.2 現(xiàn)實(shí)世界的一個(gè)比喻
2.1.3 GAN的組成
2.2 GAN的實(shí)現(xiàn)
2.2.1 GAN的應(yīng)用
2.2.2 在Keras上利用DCGAN實(shí)現(xiàn)圖像生成
2.2.3 利用TensorFlow實(shí)現(xiàn)SSGAN
2.3 GAN模型的挑戰(zhàn)
2.3.1 啟動(dòng)及初始化的問(wèn)題
2.3.2 模型坍塌
2.3.3 計(jì)數(shù)方面的問(wèn)題
2.3.4 角度方面的問(wèn)題
2.3.5 全局結(jié)構(gòu)方面的問(wèn)題
2.4 提升GAN訓(xùn)練效果的方法
2.4.1 特征匹配
2.4.2 小批量
2.4.3 歷史平均
2.4.4 單側(cè)標(biāo)簽平滑
2.4.5 輸入規(guī)范化
2.4.6 批規(guī)范化
2.4.7 利用ReLU和MaxPool避免稀疏梯度
2.4.8 優(yōu)化器和噪聲
2.4.9 不要僅根據(jù)統(tǒng)計(jì)信息平衡損失
2.5 總結(jié)
3 圖像風(fēng)格跨域轉(zhuǎn)換
3.1 彌補(bǔ)監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)之間的空隙
3.2 條件GAN介紹
3.2.1 利用CGAN生成時(shí)尚衣柜
3.2.2 利用邊界均衡固化GAN訓(xùn)練
3.3 BEGAN的訓(xùn)練過(guò)程
3.3.1 BEGAN的架構(gòu)
3.3.2 利用TensorFlow實(shí)現(xiàn)BEGAN
3.4 利用CycleGAN實(shí)現(xiàn)圖像風(fēng)格的轉(zhuǎn)換
3.4.1 CycleGAN的模型公式
3.4.2 利用TensorFlow將蘋(píng)果變成橘子
3.4.3 利用CycleGAN將馬變?yōu)榘唏R
3.5 總結(jié)
4 從文本構(gòu)建逼真的圖像
4.1 StackGAN介紹
4.1.1 條件強(qiáng)化
4.1.2 StackGAN的架構(gòu)細(xì)節(jié)
4.1.3 利用TensorFlow從文本生成圖像
4.2 利用DiscoGAN探索跨域的關(guān)系
4.2.1 DiscoGAN架構(gòu)以及模型公式
4.2.2 DiscoGAN的實(shí)現(xiàn)
4.3 利用PyTorch從邊框生成手提包
4.4 利用PyTorch進(jìn)行性別轉(zhuǎn)換
4.5 DiscoGAN和CycleGAN的對(duì)比
4.6 總結(jié)
5 利用多種生成模型生成圖像
5.1 遷移學(xué)習(xí)介紹
5.1.1 遷移學(xué)習(xí)的目的
5.1.2 多種利用預(yù)訓(xùn)練模型的方法
5.1.3 利用Keras對(duì)車(chē)、貓、狗和花進(jìn)行分類(lèi)
5.2 利用Apache Spark進(jìn)行大規(guī)模深度學(xué)習(xí)
5.2.1 利用Spark深度學(xué)習(xí)模塊運(yùn)行預(yù)訓(xùn)練模型
5.2.2 利用BigDL運(yùn)行大規(guī)模手寫(xiě)數(shù)字識(shí)別
5.2.3 利用SRGAN生成高清晰度圖像
5.2.4 SRGAN的架構(gòu)
5.3 利用DeepDream生成夢(mèng)幻的藝術(shù)圖像
5.4 在TensorFlow上利用VAE生成手寫(xiě)數(shù)字
5.5 VAE在真實(shí)世界的比喻
5.6 GAN和VAE兩個(gè)生成模型的比較
5.7 總結(jié)
6 將機(jī)器學(xué)習(xí)帶入生產(chǎn)環(huán)境
6.1 利用DCGAN構(gòu)建一個(gè)圖像矯正系統(tǒng)
6.1.1 構(gòu)建圖像矯正系統(tǒng)的步驟
6.1.2 在生產(chǎn)環(huán)境部署模型的挑戰(zhàn)
6.2 利用容器的微服務(wù)架構(gòu)
6.2.1 單體架構(gòu)的缺陷
6.2.2 微服務(wù)架構(gòu)的優(yōu)點(diǎn)
6.2.3 使用容器的優(yōu)點(diǎn)
6.3 部署深度模型的多種方法
6.3.1 方法1——離線建模和基于微服務(wù)的容器化部署
6.3.2 方法2——離線建模和無(wú)服務(wù)器部署
6.3.3 方法3——在線學(xué)習(xí)
6.3.4 方法4——利用托管機(jī)器學(xué)習(xí)服務(wù)
6.4 在Docker上運(yùn)行基于Keras的深度模型
6.5 在GKE上部署深度模型
6.6 利用AWS Lambda和Polly進(jìn)行無(wú)服務(wù)器的圖像識(shí)別并生成音頻
6.6.1 修改Lambda環(huán)境下代碼和包的步驟
6.6.2 利用云托管服務(wù)進(jìn)行人臉識(shí)別
6.7 總結(jié)