模式識(shí)別（第二版）

第二版前言                  
   第一版前言                  
   第1章  緒論                  
     1. 1  模式識(shí)別和模式的概念                  
     1. 2  模式識(shí)別系統(tǒng)                  
     1. 3  關(guān)于模式識(shí)別的一些基本問題                  
     1. 4  關(guān)于本書的內(nèi)容安排                  
   第2章  貝葉斯決策理論                  
     2. 1  引言                  
     2. 2  幾種常用的決策規(guī)則                  
     2. 2. 1  基于最小錯(cuò)誤率的貝葉斯決策                  
     2. 2. 2  基于最小風(fēng)險(xiǎn)的貝葉斯決策                  
     2. 2. 3  在限定一類錯(cuò)誤率條件下使另一類錯(cuò)誤率為最小的兩類別決策                  
     2. 2. 4  最小最大決策                  
     2. 2. 5  序貫分類方法                  
     2. 2. 6  分類器設(shè)計(jì)                  
     2. 3  正態(tài)分布時(shí)的統(tǒng)計(jì)決策                  
     2. 3. 1  正態(tài)分布概率密度函數(shù)的定義及性質(zhì)                  
     2. 3. 2  多元正態(tài)概率型下的最小錯(cuò)誤率貝葉斯判別函數(shù)和決策面                  
     2. 4  關(guān)于分類器的錯(cuò)誤率問題                  
     2. 4. 1  在一些特殊情況下錯(cuò)誤率的理論計(jì)算                  
     2. 4. 2  錯(cuò)誤率的上界                  
     2. 5  討論                  
     習(xí)題                  
   第3章  概率密度函數(shù)的估計(jì)                  
     3. 1  引言                  
     3. 2  參數(shù)估計(jì)的基本概念                  
     3. 2. 1  最大似然估計(jì)                  
     3. 2. 2  貝葉斯估計(jì)和貝葉斯學(xué)習(xí)                  
     3. 3  正態(tài)分布的監(jiān)督參數(shù)估計(jì)                  
     3. 3. 1  最大似然估計(jì)示例                  
     3. 3. 2  貝葉斯估計(jì)和貝葉斯學(xué)習(xí)示例                  
     3. 4  非監(jiān)督參數(shù)估計(jì)                  
     3. 4. 1  非監(jiān)督最大似然估計(jì)中的幾個(gè)問題                  
     3. 4. 2  正態(tài)分布情況下的非監(jiān)督參數(shù)估計(jì)                  
     3. 5  總體分布的非參數(shù)估計(jì)                  
     3. 5. 1  基本方法                  
     3. 5. 2  Parzen窗法                  
     3. 5. 3  KN-近鄰估計(jì)                  
     3. 6  關(guān)于分類器錯(cuò)誤率的估計(jì)問題                  
     3. 6. 1  關(guān)于已設(shè)計(jì)好分類器時(shí)錯(cuò)誤率的估計(jì)問題                  
     3. 6. 2  關(guān)于未設(shè)計(jì)好分類器時(shí)錯(cuò)誤率的估計(jì)問題                  
     3. 7  討論                  
     習(xí)題                  
   第4章  線性判別函數(shù)                  
     4. 1  引言                  
     4. 1. 1  線性判別函數(shù)的基本概念                  
     4. 1. 2  廣義線性判別函數(shù)                  
     4. 1. 3  設(shè)計(jì)線性分類器的主要步驟                  
     4. 2  Fisher線性判別                  
     4. 3  感知準(zhǔn)則函數(shù)                  
     4. 3. l  幾個(gè)基本概念                  
     4. 3. 2  感知準(zhǔn)則函數(shù)及其梯度下降算法                  
     4. 4  最小錯(cuò)分樣本數(shù)準(zhǔn)則                  
     4. 4. 1  解線性不等式組的共軛梯度法                  
     4. 4. 2  解線性不等式組的搜索法                  
     4. 5  最小平方誤差準(zhǔn)則函數(shù)                  
     4. 5. 1  平方誤差準(zhǔn)則函數(shù)及其偽逆解                  
     4. 5. 2  MSE準(zhǔn)則函數(shù)的梯度下降算法                  
     4. 5. 3  隨機(jī)MSE準(zhǔn)則函數(shù)及其隨機(jī)逼近算法                  
     4. 6  隨機(jī)最小錯(cuò)誤率線性判別準(zhǔn)則函數(shù)                  
     4. 6. 1  隨機(jī)最小錯(cuò)誤率線性判別準(zhǔn)則函數(shù)                  
     4. 6. 2  關(guān)于Jer(a)準(zhǔn)則的隨機(jī)逼近算法                  
     4. 6. 3  設(shè)計(jì)考慮和應(yīng)用實(shí)例                  
     4. 7  多類問題                  
     4. 7. 1  多類問題的基本概念                  
     4. 7. 2  決策樹簡(jiǎn)介                  
     4. 8  討論                  
     習(xí)題                  
   第5章  非線性判別函數(shù)                  
     5. 1  分段線性判別函數(shù)的基本概念                  
     5. 1. 1  基于距離的分段線性判別函數(shù)                  
     5. 1. 2  分段線性判別函數(shù)                  
     5. 1. 3  分段線性分類器設(shè)計(jì)的一般考慮                  
     5. 2  用凹函數(shù)的并表示分段線性判別函數(shù)                  
     5. 2. 1  分段線性判別函數(shù)的表示                  
     5. 2. 2  算法步驟                  
     5. 3  用交遇區(qū)的樣本設(shè)計(jì)分段線性分類器                  
     5. 3. 1  算法基本思想                  
     5. 3. 2  緊互對(duì)原型對(duì)與交遇區(qū)                  
     5. 3. 3  局部訓(xùn)練法                  
     5. 3. 4  決策規(guī)則                  
     5. 4  二次判別函數(shù)                  
     習(xí)題                  
   第6章  近鄰法                  
     6. 1  最近鄰法                  
     6. 1. 1  最近鄰決策規(guī)則                  
     6. 1. 2  最近鄰法的錯(cuò)誤率分析                  
     6. 2  k-近鄰法                  
     6. 3  關(guān)于減少近鄰法計(jì)算量和存儲(chǔ)量的考慮                  
     6. 3. 1  近鄰法的快速算法                  
     6. 3. 2  剪輯近鄰法                  
     6. 3. 3  壓縮近鄰法                  
     6. 4  可做拒絕決策的近鄰法                  
     6. 4. 1  具有拒絕決策的k-近鄰法                  
     6. 4. 2  具有拒絕決策的剪輯近鄰法                  
     6. 5  最佳距離度量近鄰法                  
     習(xí)題                  
   第7章  經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化和有序風(fēng)險(xiǎn)最小化方法                  
     7. 1  平均風(fēng)險(xiǎn)最小化和經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化                  
     7. 2  有限事件類情況                  
     7. 3  線性分界權(quán)向量數(shù)的估計(jì)                  
     7. 4  事件出現(xiàn)頻率一致收斂于其概率的條件                  
     7. 5  生長(zhǎng)函數(shù)的性質(zhì)                  
     7. 6  經(jīng)驗(yàn)最優(yōu)判決規(guī)則偏差的估計(jì)                  
     7. 7  經(jīng)驗(yàn)最優(yōu)判決規(guī)則偏差估計(jì)的改進(jìn)                  
     7. 8  有序風(fēng)險(xiǎn)最小化方法                  
     7. 8. 1  判決規(guī)則選擇準(zhǔn)則                  
      7. 8. 2  幾種判決規(guī)則類的排序方法                  
     7. 9  討論                  
     習(xí)題                  
   第8章  特征的選擇與提取                  
     8. 1  基本概念                  
     8. 1. 1  問題的提出                  
     8. 1. 2  一些基本概念                  
     8. 2  類別可分離性判據(jù)                  
     8. 2. 1  用于可分性判據(jù)的類內(nèi)類間距離                  
     8. 2. 2  基于概率分布的可分性判據(jù)                  
     8. 2. 3  基于熵函數(shù)的可分性判據(jù)                  
     8. 2. 4  類別可分離性判據(jù)的直接應(yīng)用舉例                  
     8. 3  特征提取                  
     8. 3. 1  按歐氏距離度量的特征提取方法                  
     8. 3. 2  按概率距離判據(jù)的特征提取方法                  
     8. 3. 3  用散度準(zhǔn)則函數(shù)的特征提取器                  
     8. 3. 4  多類情況                  
     8. 3. 5  基于判別炳最小化的特征提取                  
     8. 3. 6  兩維顯示                  
     8. 4  特征選擇                  
     8. 4. 1  最優(yōu)搜索算法                  
     8. 4. 2  次優(yōu)搜索法                  
     8. 4. 3  可分性判據(jù)的遞推計(jì)算                  
     8. 5  特征選擇的幾種新方法                  
     8. 5. 1  模擬退火算法                  
     8. 5. 2  Tabu搜索算法                  
     8. 5. 3  遺傳算法                  
     習(xí)題                  
   第9章  基于K-L展開式的特征提取                  
     9. 1  傅里葉級(jí)數(shù)展開式                  
     9. 2  K-L展開式                  
     9. 3  K-L展開式的性質(zhì)                  
     9. 3. 1  展開系數(shù)                  
     9. 3. 2  表示熵                  
     9. 3. 3  總體熵                  
     9. 4  K-L坐標(biāo)系的產(chǎn)生矩陣                  
     9. 5  從類平均向量中提取判別信息                  
     9. 6  包含在類平均向量中判別信息的最優(yōu)壓縮                  
     9. 7  包含在類中心化特征向量中判別信息的提取                  
     9. 8  用于非監(jiān)督模式識(shí)別問題中的特征提取                  
     9. 9  K-L變換在人臉自動(dòng)識(shí)別研究中的一個(gè)應(yīng)用                  
     9. 9. 1  圖像的歸一化                  
     9. 9. 2  K-L變換                  
     9. 9. 3  特征向量的選取                  
     9. 10  討論                  
     習(xí)題                  
   第10章  非監(jiān)督學(xué)習(xí)方法                  
     10. 1  引言                  
     10. 2  單峰子集(類)的分離方法                  
     10. 2. 1  投影方法                  
     lo. 2. 2  基于對(duì)稱集性質(zhì)的單峰子集分離法                  
     10. 2. 3  單峰子集分離的迭代算法                  
     10. 3  類別分離的間接方法                  
     10. 3. 1  動(dòng)態(tài)聚類方法                  
     10. 3. 2  近鄰函數(shù)準(zhǔn)則算法                  
     10. 4  分級(jí)聚類方法                  
     10. 5  非監(jiān)督學(xué)習(xí)方法中的一些問題                  
     習(xí)題                  
   第11章  人工神經(jīng)網(wǎng)絡(luò)                  
     11. 1  引言                  
     11. 2  人工神經(jīng)元                  
     11. 2. 1  生物神經(jīng)元                  
     11. 2. 2  人工神經(jīng)元                  
     11. 2. 3  神經(jīng)元的學(xué)習(xí)算法                  
     11. 3  前饋神經(jīng)網(wǎng)絡(luò)及其主要算法                  
     11. 3. 1  前饋神經(jīng)網(wǎng)絡(luò)                  
     11. 3. 2  感知器                  
     11. 3. 3  三層前饋網(wǎng)絡(luò)                  
     11. 3. 4  反向傳播算法(BP法)                  
     11. 3. 5  徑向基函數(shù)網(wǎng)絡(luò)                  
     11. 4  競(jìng)爭(zhēng)學(xué)習(xí)和側(cè)抑制                  
     11. 5  自組織特征映射                  
     11. 6  Hopfield網(wǎng)絡(luò)                  
     11. 6. 1  離散Hopfield網(wǎng)絡(luò)                  
     11. 6. 2  聯(lián)想存儲(chǔ)器                  
     11. 6. 3  優(yōu)化計(jì)算                  
     11. 6. 4  連續(xù)時(shí)間Hopfield網(wǎng)絡(luò)                  
     11. 7  神經(jīng)網(wǎng)絡(luò)模式識(shí)別的典型做法                  
     11. 7. 1  多層前饋網(wǎng)絡(luò)用于模式識(shí)別                  
     11. 7. 2  自組織網(wǎng)絡(luò)用于模式識(shí)別                  
     11. 8  前饋神經(jīng)網(wǎng)絡(luò)與統(tǒng)計(jì)模式識(shí)別的關(guān)系                  
     11. 8. 1  隱層的特征提取作用                  
     11. 8. 2  神經(jīng)網(wǎng)絡(luò)與貝葉斯分類器                  
     11. 9  討論                  
   第12章  模糊模式識(shí)別方法                  
     12. 1  引言                  
     12. 2  模糊集的基本知識(shí)                  
     12. 3  模糊特征和模糊分類                  
     12. 3. 1  模糊化特征                  
     12. 3. 2  結(jié)果的模糊化                  
     12. 4  特征的模糊評(píng)價(jià)                  
     12. 4. 1  模糊程度的度量                  
     12. 4. 2  特征的模糊評(píng)價(jià)                  
     12. 5  模糊聚類方法                  
     12. 5. 1  模糊C均值算法                  
     12. 5. 2  改進(jìn)的模糊C均值算法                  
     12. 6  模糊A近鄰分類器                  
     12. 7  討論                  
   第13章  統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)                  
     13. 1  引言                  
     13. 2  機(jī)器學(xué)習(xí)的基本問題和方法                  
     13. 2. 1  機(jī)器學(xué)習(xí)問題的表示                  
     13. 2. 2  經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化                  
     13. 2. 3  復(fù)雜性與推廣能力                  
     13, 3  統(tǒng)計(jì)學(xué)習(xí)理論的核心內(nèi)容                  
     13. 3. 1  學(xué)習(xí)過程一致性的條件                  
     13, 3. 2  函數(shù)集的學(xué)習(xí)性能與VC維                  
     13. 3. 3  推廣性的界                  
     13. 3. 4  結(jié)構(gòu)風(fēng)險(xiǎn)最小化                  
     13. 4  支持向量機(jī)                  
     13. 4. 1  最優(yōu)分類面                  
     13. 4. 2  廣義最優(yōu)分類面                  
     13. 4. 3  規(guī)范化超平面集的子集結(jié)構(gòu)                  
     13. 4. 4  支持向量機(jī)                  
     13. 5  討論                  
   第14章  模式識(shí)別在語音信號(hào)數(shù)字處理中的應(yīng)用舉例                  
     14. 1  說話人識(shí)別概述                  
     14. 2  語音信號(hào)及其幾個(gè)特性                  
     14. 3  短時(shí)基音周期的估計(jì)                  
     14. 4  一個(gè)說話人識(shí)別系統(tǒng)舉例                  
     14. 5  討論                  
   第15章  印刷體漢字識(shí)別中的特征提取                  
     15. 1  印刷體漢字識(shí)別的基本知識(shí)                  
     15. 2  印刷體漢字的統(tǒng)計(jì)特性及分析                  
     15. 3  文字的歸一化                  
     15. 4  印刷體漢字識(shí)別中的一些特征                  
     15. 5  分類問題                  
     15. 6  判別準(zhǔn)則                  
     15. 7  討論                  
   主要參考書目                  
   附錄A  幾種最優(yōu)化算法                  
     A. 1  梯度(下降)法                  
     A. 2  牛頓法                  
     A. 3　共扼梯度法                  
     A. 4  Lagrange乘子法                  
     A. 5  隨機(jī)逼近法