AI可解釋性（Python語言版）

第1章　前景   1
1.1  AI可解釋性示例   2
1.1.1  學(xué)習(xí)階段   3
1.1.2  知識發(fā)現(xiàn)   4
1.1.3  可靠性和魯棒性   5
1.1.4  三個示例的啟示   5
1.2  ML和XAI   6
1.2.1  ML分類法   8
1.2.2  常見誤解   11
1.3  對AI可解釋性的需求   12
1.4  可解釋性與可理解性：是否為表達相同事物的不同詞語   14
1.4.1  從物質(zhì)世界到人類   15
1.4.2  相關(guān)性不是因果性   16
1.4.3  那么可理解性和可解釋性的區(qū)別是什么   19
1.5  使ML系統(tǒng)具備可解釋性   21
1.5.1  XAI工作流程   21
1.5.2  全局視覺   24
1.6  我們真的需要ML模型的可解釋性嗎   26
1.7  小結(jié)   28
參考文獻   29
第2章　AI可解釋性：需求、機遇和挑戰(zhàn)   31
2.1  人工介入   32
2.1.1  半人馬座XAI系統(tǒng)   32
2.1.2  從“人工介入”的角度評估XAI   35
2.2  如何使ML模型具備可解釋性   37
2.2.1  內(nèi)在可解釋性   41
2.2.2  事后可解釋性   44
2.2.3  全局或局部可解釋性   46
2.3  解釋的性質(zhì)   49
2.4  小結(jié)   51
參考文獻   52
第3章　內(nèi)在可解釋性模型   53
3.1  損失函數(shù)   54
3.2  線性回歸   57
3.3  邏輯回歸   67
3.4  決策樹   78
3.5  K最近鄰算法(KNN)   87
3.6  小結(jié)   90
參考文獻   91
第4章　XAI的模型不可知方法   93
4.1  全局可解釋性：排序重要性與部分依賴圖   94
4.1.1  根據(jù)排序重要性將特征排序   95
4.1.2  訓(xùn)練集中的排序重要性   99
4.1.3  部分依賴圖   100
4.1.4  解釋的性質(zhì)   104
4.2  局部可解釋性：XAI與Shapley加法解釋   106
4.2.1  Shapley值：一種博弈論方法   107
4.2.2  SHAP的首次應(yīng)用   108
4.2.3  解釋的性質(zhì)   111
4.3  KernelSHAP   111
4.3.1  Shapley公式   112
4.3.2  如何計算Shapley值   112
4.3.3  局部線性代理模型(LIME)   113
4.3.4  KernelSHAP是一種特殊的LIME   115
4.4  KernelSHAP與交互   116
4.4.1  紐約出租車情境   116
4.4.2  通過初步分析訓(xùn)練模型   116
4.4.3  用KernelShap使模型具備可解釋性   120
4.4.4  特征交互   120
4.5  提升樹的更快速SHAP   122
4.5.1  TreeShap的應(yīng)用   122
4.5.2  提供解釋   123
4.6  對SHAP的樸素評價   125
4.7  小結(jié)   127
參考文獻   128
第5章　解釋深度學(xué)習(xí)模型   129
5.1  不可知方法   130
5.1.1  對抗性特征   130
5.1.2  增強方法   132
5.1.3  將遮擋用作增強方法   133
5.1.4  將遮擋用作不可知XAI方法   134
5.2  神經(jīng)網(wǎng)絡(luò)(NN)   138
5.2.1  神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)   138
5.2.2  為什么神經(jīng)網(wǎng)絡(luò)是深層網(wǎng)絡(luò)(與淺層網(wǎng)絡(luò)相對)   140
5.2.3  修正激活(和批量歸一化)   142
5.2.4  顯著圖   143
5.3  打開深度網(wǎng)絡(luò)   144
5.3.1  不同層解釋   144
5.3.2  CAM(類激活圖，Class Activation Maps)和Grad-CAM   144
5.3.3  DeepShap/ DeepLift   146
5.4  對顯著性方法的評判   150
5.4.1  網(wǎng)絡(luò)所見   150
5.4.2  可解釋性逐層批量標(biāo)準(zhǔn)化   151
5.5  無監(jiān)督方法   152
5.5.1  無監(jiān)督降維   152
5.5.2  卷積濾波器降維   154
5.5.3  激活圖集：如何區(qū)分炒鍋與煎鍋   156
5.6 小結(jié)   158
參考文獻   159
第6章　用ML和XAI創(chuàng)造科學(xué)   161
6.1  數(shù)據(jù)時代的科學(xué)方法   162
6.2  因果關(guān)系階梯   166
6.3  用ML和XAI發(fā)現(xiàn)物理概念   172
6.3.1  自動編碼器的魔力   173
6.3.2  利用ML和XAI發(fā)現(xiàn)阻尼擺的物理特性   177
6.3.3  攀登因果關(guān)系階梯   181
6.4  ML和XAI時代的科學(xué)   182
6.5  小結(jié)   184
參考文獻   185
第7章　對抗性機器學(xué)習(xí)和可解釋性   187
7.1  對抗性示例(AE)速成課程   188
7.2  使用對抗性示例運行XAI   201
7.3  用XAI抵御對抗性攻擊   205
7.4  小結(jié)   208
參考文獻   209
第8章　關(guān)于XAI可持續(xù)模型的建議   211
8.1  XAI“Fil Rouge”   212
8.2  XAI和GDPR   214
8.3  結(jié)語   220
8.4  小結(jié)   224
參考文獻   224
附錄　F.A.S.T. XAI認(rèn)證   227