單類分類理論與算法

目錄
前言
符號(hào)說(shuō)明
第1章 緒論 1
1.1 兩類分類 1
1.1.1 例子 (蠓蟲分類) 1
1.1.2 兩類分類問(wèn)題 3
1.2 多類分類 4
1.2.1 例子 (鳶尾屬植物分類) 4
1.2.2 多類分類問(wèn)題 5
1.3 單類分類 10
1.3.1 例子 (Square 數(shù)據(jù)集) 10
1.3.2 單類分類問(wèn)題 11
1.3.3 單類分類方法的分類 12
參考文獻(xiàn) 16
第2章 單類分類器 20
2.1 基于密度估計(jì)的單類分類器 20
2.1.1 Parzen 窗密度估計(jì) 20
2.1.2 K 近鄰 21
2.1.3 高斯密度估計(jì) 22
2.1.4 高斯混合模型 23
2.2 基于神經(jīng)網(wǎng)絡(luò)的單類分類器 23
2.2.1 自聯(lián)想神經(jīng)網(wǎng)絡(luò) 24
2.2.2 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò) 25
2.2.3 自組織映射神經(jīng)網(wǎng)絡(luò) 28
2.2.4 極限學(xué)習(xí)機(jī) 30
2.3 基于聚類的單類分類器 32
2.3.1 K 均值 33
2.3.2 模糊 c 均值 33
2.3.3 水平集法 35
2.4 基于支持域的單類分類器 38
2.4.1 單類支持向量機(jī) 38
2.4.2 支持向量數(shù)據(jù)描述 41
2.4.3 核主成分分析 44
參考文獻(xiàn) 46
第3章 單類分類的維數(shù)約簡(jiǎn) 48
3.1 特征選擇 48
3.1.1 SVDD 半徑遞歸特征消除法 48
3.1.2 SVDD 對(duì)偶目標(biāo)遞歸特征消除法 51
3.1.3 過(guò)濾式特征選擇 54
3.2 特征提取 59
3.2.1 主成分分析 59
3.2.2 線性判別分析 62
3.2.3 局部保持投影 63
3.3 基于正則化相關(guān)熵的異常檢測(cè)特征提取 65
3.3.1 相關(guān)工作 65
3.3.2 數(shù)學(xué)模型 66
3.3.3 算法描述 68
3.3.4 實(shí)驗(yàn)結(jié)果 69
3.4 基于模擬退火的 SVDD 特征提取和參數(shù)選擇 75
3.4.1 模擬退火 75
3.4.2 SA-SVDD 76
3.4.3 實(shí)驗(yàn)結(jié)果 78
參考文獻(xiàn) 80
第4章 基于核的單類分類器 83
4.1 魯棒的光滑單類支持向量機(jī) 83
4.1.1 相關(guān)工作 83
4.1.2 數(shù)學(xué)模型 84
4.1.3 實(shí)驗(yàn)結(jié)果 86
4.2 基于局部相關(guān)保留的單類支持向量機(jī) 88
4.2.1 相關(guān)工作 89
4.2.2 數(shù)學(xué)模型 91
4.2.3 算法描述 93
4.2.4 實(shí)驗(yàn)結(jié)果 94
4.3 局部保留加權(quán)單類支持向量機(jī) 97
4.3.1 數(shù)學(xué)模型 97
4.3.2 算法描述 99
4.3.3 實(shí)驗(yàn)結(jié)果 100
4.4 自適應(yīng)加權(quán)單類支持向量機(jī) 103
4.4.1 相關(guān)工作 104
4.4.2 數(shù)學(xué)模型 105
4.4.3 算法描述 106
4.4.4 實(shí)驗(yàn)結(jié)果 106
4.5 基于可縮放 hinge 損失函數(shù)的魯棒單類支持向量機(jī) 109
4.5.1 數(shù)學(xué)模型 110
4.5.2 算法描述 113
4.5.3 魯棒單類支持向量機(jī)的泛化性能和魯棒性 113
4.5.4 實(shí)驗(yàn)結(jié)果 116
4.6 基于截?cái)?1 范數(shù)的魯棒最小二乘單類支持向量機(jī) 129
4.6.1 相關(guān)工作 130
4.6.2 數(shù)學(xué)模型 131
4.6.3 算法描述 133
4.6.4 實(shí)驗(yàn)結(jié)果 133
4.7 基于樣本選取和加權(quán) KPCA-e1 的異常檢測(cè) 139
4.7.1 相關(guān)工作 139
4.7.2 構(gòu)造過(guò)程 140
4.7.3 實(shí)驗(yàn)結(jié)果 144
4.8 基于核學(xué)習(xí)向量量化的異常檢測(cè) 149
4.8.1 LVQ 和 KLVQ 149
4.8.2 重新表示的 KLVQ 152
4.8.3 實(shí)驗(yàn)結(jié)果 153
4.9 基于 SOM 和局部最小包圍球的異常檢測(cè) 155
4.9.1 基于 SOM 和 LVQ 的異常檢測(cè)器 155
4.9.2 基于 SOM 和局部最小包圍球的異常檢測(cè)器 156
4.9.3 實(shí)驗(yàn)結(jié)果 159
參考文獻(xiàn) 163
第5章 單類分類器集成 167
5.1 基于旋轉(zhuǎn)的單類支持向量機(jī)集成 167
5.1.1 構(gòu)造過(guò)程 167
5.1.2 算法實(shí)現(xiàn) 168
5.1.3 實(shí)驗(yàn)結(jié)果 169
5.2 基于改進(jìn) AdaBoost 的單類支持向量機(jī)集成 171
5.2.1 AdaBoost 集成方法的發(fā)展 171
5.2.2 改進(jìn)的 AdaBoost 集成方法 173
5.2.3 實(shí)驗(yàn)結(jié)果 174
5.2.4 圖像檢索 179
5.3 基于魯棒 AdaBoost 的單類支持向量機(jī)集成 184
5.3.1 數(shù)學(xué)模型 184
5.3.2 算法描述 188
5.3.3 經(jīng)驗(yàn)誤差界和泛化誤差界 189
5.3.4 實(shí)驗(yàn)結(jié)果 193
5.4 基于 Renyi 熵多樣性度量的 SVDD 選擇性集成 206
5.4.1 Renyi 熵 206
5.4.2 SVDD 的選擇性集成 207
5.4.3 實(shí)驗(yàn)結(jié)果 213
5.5 基于相關(guān)熵和距離方差的 SVDD 選擇性集成 221
5.5.1 相關(guān)工作 221
5.5.2 數(shù)學(xué)模型 222
5.5.3 算法描述 224
5.5.4 實(shí)驗(yàn)結(jié)果 225
參考文獻(xiàn) 229
第6章 基于深度學(xué)習(xí)的單類分類器 232
6.1 基于雙判別器生成式對(duì)抗網(wǎng)絡(luò)的異常檢測(cè)方法 232
6.1.1 生成式對(duì)抗網(wǎng)絡(luò) 232
6.1.2 D2GANND 234
6.1.3 實(shí)驗(yàn)結(jié)果 237
6.2 基于非凸正則化項(xiàng)的堆棧魯棒稀疏自編碼器 240
6.2.1 預(yù)備知識(shí) 240
6.2.2 基于 T-e1 范數(shù)和 e2，1 范數(shù)組合正則化項(xiàng)的魯棒稀疏自編碼器 244
6.2.3 基于堆棧魯棒稀疏自編碼器的單類分類器集成 247
6.2.4 實(shí)驗(yàn)結(jié)果 248
參考文獻(xiàn) 252
索引 254