圖神經(jīng)網(wǎng)絡：基礎、前沿與應用

第 一部分 引言
第 1章 表征學習 2
1.1 導讀 2
1.2 不同領域的表征學習 3
1.2.1 用于圖像處理的表征學習 3
1.2.2 用于語音識別的表征學習 5
1.2.3 用于自然語言處理的表征學習 7
1.2.4 用于網(wǎng)絡分析的表征學習 8
1.3 小結 9
第 2章 圖表征學習 11
2.1 導讀 11
2.2 傳統(tǒng)圖嵌入方法 12
2.3 現(xiàn)代圖嵌入方法 13
2.3.1 保留圖結構和屬性的圖表征學習 13
2.3.2 帶有側面信息的圖表征學習 15
2.3.3 保留高級信息的圖表征學習 15
2.4 圖神經(jīng)網(wǎng)絡 16
2.5 小結 17
第3章 圖神經(jīng)網(wǎng)絡 18
3.1 導讀 18
3.2 圖神經(jīng)網(wǎng)絡概述 19
3.2.1 圖神經(jīng)網(wǎng)絡基礎 19
3.2.2 圖神經(jīng)網(wǎng)絡前沿 20
3.2.3 圖神經(jīng)網(wǎng)絡應用 22
3.2.4 本書組織結構 23
3.3 小結 24
第二部分 基礎
第4章 用于節(jié)點分類的圖神經(jīng)網(wǎng)絡 28
4.1 背景和問題定義 28
4.2 有監(jiān)督的圖神經(jīng)網(wǎng)絡 29
4.2.1 圖神經(jīng)網(wǎng)絡的一般框架 29
4.2.2 圖卷積網(wǎng)絡 30
4.2.3 圖注意力網(wǎng)絡 32
4.2.4 消息傳遞神經(jīng)網(wǎng)絡 33
4.2.5 連續(xù)圖神經(jīng)網(wǎng)絡 33
4.2.6 多尺度譜圖卷積網(wǎng)絡 35
4.3 無監(jiān)督的圖神經(jīng)網(wǎng)絡 37
4.3.1 變分圖自編碼器 37
4.3.2 深度圖信息最大化 39
4.4 過平滑問題 41
4.5 小結 42
第5章 圖神經(jīng)網(wǎng)絡的表達能力 44
5.1 導讀 44
5.2 圖表征學習和問題的提出 47
5.3 強大的消息傳遞圖神經(jīng)網(wǎng)絡 49
5.3.1 用于集合的神經(jīng)網(wǎng)絡 49
5.3.2 消息傳遞圖神經(jīng)網(wǎng)絡 50
5.3.3 MP-GNN的表達能力 51
5.3.4 具有1-WL測試能力的MP-GNN 53
5.4 比1-WL測試更強大的圖神經(jīng)網(wǎng)絡架構 54
5.4.1 MP-GNN的局限性 54
5.4.2 注入隨機屬性 56
5.4.3 注入確定性距離屬性 61
5.4.4 建立高階圖神經(jīng)網(wǎng)絡 65
5.5 小結 69
第6章 圖神經(jīng)網(wǎng)絡的可擴展性 71
6.1 導讀 71
6.2 引言 72
6.3 抽樣范式 72
6.3.1 節(jié)點級抽樣 74
6.3.2 層級抽樣 76
6.3.3 圖級抽樣 79
6.4 大規(guī)模圖神經(jīng)網(wǎng)絡在推薦系統(tǒng)中的應用 82
6.4.1 物品-物品推薦 82
6.4.2 用戶-物品推薦 83
6.5 未來的方向 84
第7章 圖神經(jīng)網(wǎng)絡的可解釋性 86
7.1 背景：深度模型的可解釋性 86
7.1.1 可解釋性和解釋的定義 86
7.1.2 解釋的價值 87
7.1.3 傳統(tǒng)的解釋方法 88
7.1.4 機遇與挑戰(zhàn) 90
7.2 圖神經(jīng)網(wǎng)絡的解釋方法 90
7.2.1 背景 91
7.2.2 基于近似的解釋 92
7.2.3 基于相關性傳播的解釋 95
7.2.4 基于擾動的解釋 96
7.2.5 生成式解釋 97
7.3 圖神經(jīng)網(wǎng)絡的可解釋模型 97
7.3.1 基于GNN的注意力模型 98
7.3.2 圖上的解耦化表征學習 100
7.4 圖神經(jīng)網(wǎng)絡解釋的評估 101
7.4.1 基準數(shù)據(jù)集 101
7.4.2 評價指標 103
7.5 未來的方向 103
第8章 圖神經(jīng)網(wǎng)絡的對抗魯棒性 105
8.1 動機 105
8.2 圖神經(jīng)網(wǎng)絡的局限性：對抗性樣本 107
8.2.1 對抗性攻擊的分類 107
8.2.2 擾動的影響和一些啟示 110
8.2.3 討論和未來的方向 112
8.3 可證明的魯棒性：圖神經(jīng)網(wǎng)絡的認證 113
8.3.1 特定模型的認證 113
8.3.2 模型無關的認證 115
8.3.3 高級認證和討論 116
8.4 提高圖神經(jīng)網(wǎng)絡的魯棒性 117
8.4.1 改進圖 117
8.4.2 改進訓練過程 118
8.4.3 改進圖神經(jīng)網(wǎng)絡的架構 120
8.4.4 討論和未來的方向 121
8.5 從魯棒性的角度進行適當評估 122
8.6 小結 124
第三部分 前沿
第9章 圖分類 128
9.1 導讀 128
9.2 用于圖分類的圖神經(jīng)網(wǎng)絡：典型工作和現(xiàn)代架構 129
9.2.1 空間方法 129
9.2.2 頻譜方法 132
9.3 池化層：從節(jié)點級輸出學習圖級輸出 133
9.3.1 基于注意力的池化層 134
9.3.2 基于聚類的池化層 134
9.3.3 其他池化層 134
9.4 圖神經(jīng)網(wǎng)絡和高階層在圖分類中的局限性 135
9.5 圖神經(jīng)網(wǎng)絡在圖分類中的應用 137
9.6 基準數(shù)據(jù)集 137
9.7 小結 138
第 10章 鏈接預測 139
10.1 導讀 139
10.2 傳統(tǒng)的鏈接預測方法 140
10.2.1 啟發(fā)式方法 140
10.2.2 潛在特征方法 143
10.2.3 基于內容的方法 145
10.3 基于GNN的鏈接預測方法 145
10.3.1 基于節(jié)點的方法 145
10.3.2 基于子圖的方法 147
10.3.3 比較基于節(jié)點的方法和基于子圖的方法 150
10.4 鏈接預測的理論 151
10.4.1 γ?C衰減啟發(fā)式理論 151
10.4.2 貼標簽技巧 155
10.5 未來的方向 158
10.5.1 加速基于子圖的方法 158
10.5.2 設計更強大的貼標簽技巧 159
10.5.3 了解何時使用獨熱特征 159
第 11章 圖生成 160
11.1 導讀 160
11.2 經(jīng)典的圖生成模型 160
11.2.1 Erd s-Rényi模型 161
11.2.2 隨機塊模型 162
11.3 深度圖生成模型 163
11.3.1 表征圖 163
11.3.2 變分自編碼器方法 164
11.3.3 深度自回歸方法 168
11.3.4 生成對抗網(wǎng)絡方法 174
11.4 小結 178
第 12章 圖轉換 179
12.1 圖轉換問題的形式化 179
12.2 節(jié)點級轉換 180
12.2.1 節(jié)點級轉換的定義 180
12.2.2 交互網(wǎng)絡 180
12.2.3 時空卷積循環(huán)神經(jīng)網(wǎng)絡 181
12.3 邊級轉換 182
12.3.1 邊級轉換的定義 182
12.3.2 圖轉換生成對抗網(wǎng)絡 183
12.3.3 多尺度圖轉換網(wǎng)絡 184
12.3.4 圖轉換策略網(wǎng)絡 185
12.4 節(jié)點-邊共轉換 186
12.4.1 節(jié)點-邊共轉換的定義 186
12.4.2 基于編輯的節(jié)點-邊共轉換 190
12.5 其他基于圖的轉換 193
12.5.1 序列到圖的轉換 193
12.5.2 圖到序列的轉換 194
12.5.3 上下文到圖的轉換 195
12.6 小結 196
第 13章 圖匹配 197
13.1 導讀 197
13.2 圖匹配學習 198
13.2.1 問題的定義 199
13.2.2 基于深度學習的圖匹配模型 200
13.2.3 基于GNN的圖匹配模型 201
13.3 圖相似性學習 205
13.3.1 問題的定義 205
13.3.2 圖-圖回歸任務 206
13.3.3 圖-圖分類任務 209
13.4 小結 210
第 14章 圖結構學習 211
14.1 導讀 211
14.2 傳統(tǒng)的圖結構學習 212
14.2.1 無監(jiān)督圖結構學習 212
14.2.2 有監(jiān)督圖結構學習 214
14.3 圖神經(jīng)網(wǎng)絡的圖結構學習 215
14.3.1 圖結構和表征的聯(lián)合學習 216
14.3.2 與其他問題的聯(lián)系 225
14.4 未來的方向 226
14.4.1 魯棒的圖結構學習 226
14.4.2 可擴展的圖結構學習 226
14.4.3 異質圖的圖結構學習 227
14.5 小結 227
第 15章 動態(tài)圖神經(jīng)網(wǎng)絡 228
15.1 導讀 228
15.2 背景和表示法 229
15.2.1 圖神經(jīng)網(wǎng)絡 229
15.2.2 序列模型 230
15.2.3 編碼器-解碼器框架和模型訓練 233
15.3 動態(tài)圖的類型 233
15.3.1 離散型與連續(xù)型 234
15.3.2 演變類型 235
15.3.3 預測問題、內插法和外推法 235
15.4 用圖神經(jīng)網(wǎng)絡對動態(tài)圖進行建模 236
15.4.1 將動態(tài)圖轉換為靜態(tài)圖 236
15.4.2 用于DTDG的圖神經(jīng)網(wǎng)絡 238
15.4.3 用于CTDG的圖神經(jīng)網(wǎng)絡 240
15.5 應用 242
15.5.1 基于骨架的人類活動識別 243
15.5.2 交通預測 244
15.5.3 時序知識圖譜補全 245
15.6 小結 247
第 16章 異質圖神經(jīng)網(wǎng)絡 248
16.1 HGNN簡介 248
16.1.1 HG的基本概念 249
16.1.2 異質性給HG嵌入帶來的獨特挑戰(zhàn) 250
16.1.3 對HG嵌入最新發(fā)展的簡要概述 251
16.2 淺層模型 251
16.2.1 基于分解的方法 252
16.2.2 基于隨機游走的方法 253
16.3 深度模型 254
16.3.1 基于消息傳遞的方法 254
16.3.2 基于編碼器-解碼器的方法 257
16.3.3 基于對抗的方法 257
16.4 回顧 259
16.5 未來的方向 259
16.5.1 結構和屬性保存 259
16.5.2 更深入的探索 260
16.5.3 可靠性 260
16.5.4 應用 261
第 17章 自動機器學習 262
17.1 背景 262
17.1.1 AutoGNN的表示法 264
17.1.2 AutoGNN的問題定義 264
17.1.3 AutoGNN的挑戰(zhàn) 265
17.2 搜索空間 265
17.2.1 架構搜索空間 266
17.2.2 訓練超參數(shù)搜索空間 268
17.2.3 高效的搜索空間 269
17.3 搜索算法 269
17.3.1 隨機搜索 269
17.3.2 進化搜索 270
17.3.3 基于強化學習的搜索 270
17.3.4 可微搜索 271
17.3.5 高效的表現(xiàn)評估 272
17.4 未來的方向 273
第 18章 自監(jiān)督學習 275
18.1 導讀 275
18.2 自監(jiān)督學習概述 276
18.3 將SSL應用于圖神經(jīng)網(wǎng)絡：對訓練策略、損失函數(shù)和代理任務進行分類 277
18.3.1 訓練策略 278
18.3.2 損失函數(shù) 281
18.3.3 代理任務 283
18.4 節(jié)點級代理任務 283
18.4.1 基于結構的節(jié)點級代理任務 284
18.4.2 基于特征的節(jié)點級代理任務 285
18.4.3 混合代理任務 285
18.5 圖級代理任務 287
18.5.1 基于結構的圖級代理任務 287
18.5.2 基于特征的圖級代理任務 291
18.5.3 混合代理任務 291
18.6 節(jié)點-圖級代理任務 293
18.7 討論 294
18.8 小結 295
第四部分 廣泛和新興的應用
第 19章 現(xiàn)代推薦系統(tǒng)中的圖神經(jīng)網(wǎng)絡 298
19.1 圖神經(jīng)網(wǎng)絡在推薦系統(tǒng)中的實踐 298
19.1.1 簡介 298
19.1.2 預測用戶-物品偏好的經(jīng)典方法 302
19.1.3 用戶-物品推薦系統(tǒng)中的物品推薦：二分圖的視角 302
19.2 案例研究1：動態(tài)的GNN學習 304
19.2.1 動態(tài)序貫圖 304
19.2.2 DSGL 304
19.2.3 模型預測 307
19.2.4 實驗和討論 308
19.3 案例研究2：設備-云協(xié)作的GNN學習 309
19.3.1 提議的框架 309
19.3.2 實驗和討論 312
19.4 未來的方向 313
第 20章 計算機視覺中的圖神經(jīng)網(wǎng)絡 315
20.1 導讀 315
20.2 將視覺表征為圖 316
20.2.1 視覺節(jié)點表征 316
20.2.2 視覺邊表征 317
20.3 案例研究1：圖像 318
20.3.1 物體檢測 318
20.3.2 圖像分類 319
20.4 案例研究2：視頻 320
20.4.1 視頻動作識別 320
20.4.2 時序動作定位 322
20.5 其他相關工作：跨媒體 322
20.5.1 視覺描述 322
20.5.2 視覺問答 323
20.5.3 跨媒體檢索 324
20.6 圖神經(jīng)網(wǎng)絡在計算機視覺中的前沿問題 324
20.6.1 用于計算機視覺的高級圖神經(jīng)網(wǎng)絡 325
20.6.2 圖神經(jīng)網(wǎng)絡在計算機視覺中的更廣泛應用 325
20.7 小結 326
第 21章 自然語言處理中的圖神經(jīng)網(wǎng)絡 327
21.1 導讀 327
21.2 將文本建模為圖 329
21.2.1 自然語言處理中的圖表征 329
21.2.2 從圖的角度完成自然語言處理任務 330
21.3 案例研究1：基于圖的文本聚類和匹配 332
21.3.1 基于圖聚類的熱點事件發(fā)現(xiàn)和組織 332
21.3.2 使用圖分解和卷積進行長文檔匹配 333
21.4 案例研究2：基于圖的多跳閱讀理解 335
21.5 未來的方向 338
21.6 小結 339
第 22章 程序分析中的圖神經(jīng)網(wǎng)絡 341
22.1 導讀 341
22.2 程序分析中的機器學習 342
22.3 程序的圖表征 343
22.4 用于程序圖的圖神經(jīng)網(wǎng)絡 345
22.5 案例研究1：檢測變量誤用缺陷 346
22.6 案例研究2：預測動態(tài)類型化語言中的類型 348
22.7 未來的方向 350
第 23章 軟件挖掘中的圖神經(jīng)網(wǎng)絡 352
23.1 導讀 352
23.2 將軟件建模為圖 353
23.2.1 宏觀與微觀層面的表征 353
23.2.2 將宏觀和微觀層面的表征結合起來 354
23.3 相關的軟件挖掘任務 355
23.4 軟件挖掘任務實例：源代碼總結 357
23.4.1 基于GNN的源代碼總結快速入門 357
23.4.2 改進的方向 363
23.5 小結 364
第 24章 藥物開發(fā)中基于圖神經(jīng)網(wǎng)絡的生物醫(yī)學知識圖譜挖掘 366
24.1 導讀 366
24.2 現(xiàn)有的生物醫(yī)學知識圖譜 367
24.3 知識圖譜的推理 369
24.3.1 傳統(tǒng)的KG推理技術 370
24.3.2 基于GNN的KG推理技術 371
24.4 藥物開發(fā)中基于KG的假設生成 374
24.4.1 基于KG的藥物再利用的機器學習框架 374
24.4.2 基于KG的藥物再利用在COVID-19中的應用 375
24.5 未來的方向 376
24.5.1 KG質量控制 376
24.5.2 可擴展的推理 377
24.5.3 KG與其他生物醫(yī)學數(shù)據(jù)的結合 378
第 25章 預測蛋白質功能和相互作用的圖神經(jīng)網(wǎng)絡 383
25.1 從蛋白質的相互作用到功能簡介 383
25.1.1 登上舞臺：蛋白質-蛋白質相互作用網(wǎng)絡 384
25.1.2 問題形式化、假設和噪聲：從歷史的視角 384
25.1.3 淺層機器學習模型 385
25.1.4 好戲上演：圖神經(jīng)網(wǎng)絡 386
25.2 三個典型的案例研究 387
25.2.1 案例研究1：蛋白質-蛋白質和蛋白質-藥物相互作用的預測 387
25.2.2 案例研究2：蛋白質功能和功能重要的殘差的預測 389
25.2.3 案例研究3：使用圖自編碼器從生物網(wǎng)絡的表征中學習多關系鏈接預測 391
25.3 未來的方向 393
第 26章 異常檢測中的圖神經(jīng)網(wǎng)絡 395
26.1 導讀 395
26.2 基于GNN的異常檢測的問題 397
26.2.1 特定于數(shù)據(jù)的問題 397
26.2.2 特定于任務的問題 399
26.2.3 特定于模型的問題 399
26.3 流水線 400
26.3.1 圖的構建和轉換 400
26.3.2 圖表征學習 401
26.3.3 預測 402
26.4 分類法 403
26.5 案例研究 404
26.5.1 案例研究1：用于惡意賬戶檢測的圖嵌入 404
26.5.2 案例研究2：基于層次注意力機制的套現(xiàn)用戶檢測 404
26.5.3 案例研究3：用于惡意程序檢測的注意力異質圖神經(jīng)網(wǎng)絡 405
26.5.4 案例研究4：通過圖神經(jīng)網(wǎng)絡學習程序表征和相似性度量的圖匹配框架，用于檢測未知的惡意程序 406
26.5.5 案例研究5：使用基于注意力的時間GCN進行動態(tài)圖的異常檢測 408
26.5.6 案例研究6：使用GAS進行垃圾評論檢測 408
26.6 未來的方向 409
第 27章 智慧城市中的圖神經(jīng)網(wǎng)絡 410
27.1 用于智慧城市的圖神經(jīng)網(wǎng)絡 410
27.1.1 導讀 410
27.1.2 圖神經(jīng)網(wǎng)絡在智慧城市中的應用場景 411
27.1.3 將城市系統(tǒng)表征為圖 413
27.1.4 案例研究1：圖神經(jīng)網(wǎng)絡在交通和城市規(guī)劃中的應用 415
27.1.5 案例研究2：圖神經(jīng)網(wǎng)絡在城市事件和異常情況預測中的應用 417
27.1.6 案例研究3：圖神經(jīng)網(wǎng)絡在城市人類行為分析中的應用 417
27.2 未來的方向 419
參考文獻 420