神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的理論與方法

第1章概論
1.1神經(jīng)網(wǎng)絡(luò)簡介
1.2神經(jīng)網(wǎng)絡(luò)研究內(nèi)容
1.3本書內(nèi)容
1.4參考資料簡介
第2章基本的神經(jīng)元及其學(xué)習(xí)規(guī)則
2.1神經(jīng)元模型
2.1.1大腦神經(jīng)細(xì)胞
2.1.2MP模型
2.1.3一般神經(jīng)元模型
2.2神經(jīng)元學(xué)習(xí)算法
2.2.1Hebb學(xué)習(xí)規(guī)則
2.2.2離散感知器學(xué)習(xí)規(guī)則
2.2.3學(xué)習(xí)規(guī)則
2.2.4Widrow-Hoff學(xué)習(xí)規(guī)則
2.3單個(gè)神經(jīng)元解決問題的能力
2.3.1單個(gè)神經(jīng)元的分類能力
2.3.2多個(gè)神經(jīng)元的分類能力
2.4神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)
2.4.1前向神經(jīng)網(wǎng)絡(luò)
2.4.2反饋神經(jīng)網(wǎng)絡(luò)
第3章多層感知器網(wǎng)絡(luò)
3.1兩層感知器網(wǎng)絡(luò)
3.1.1單神經(jīng)元用于兩分類
3.1.2多輸出兩層感知器用于多分類
3.2線性閾值單元組成的多層感知器
3.3BP網(wǎng)及BP算法
3.3.1BP網(wǎng)絡(luò)結(jié)構(gòu)
3.3.2BP學(xué)習(xí)算法
3.3.3BP算法應(yīng)用例子
3.3.4BP網(wǎng)和BP算法應(yīng)用要點(diǎn)
3.3.5BP算法的改進(jìn)
第4章徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)
4.1RBF網(wǎng)結(jié)構(gòu)和工作原理
4.2RBF網(wǎng)的生理學(xué)基礎(chǔ)
4.3RBF網(wǎng)的數(shù)學(xué)基礎(chǔ)
4.3.1內(nèi)插問題
4.3.2正則化網(wǎng)絡(luò)
4.4RBF網(wǎng)常用的學(xué)習(xí)算法
4.4.1聚類方法
4.4.2梯度訓(xùn)練方法
4.4.3正交最小二乘(OLS)學(xué)習(xí)算法
4,5RBF網(wǎng)的學(xué)習(xí)動(dòng)態(tài)
4.5.1定義
4.5.2主要結(jié)論
4.5.3算例
4.5.4RBF網(wǎng)的學(xué)習(xí)動(dòng)態(tài)與RBF網(wǎng)設(shè)計(jì)
4.6仿真例子
4.7RBF網(wǎng)的特點(diǎn)及其他問題
第5章Hopfield網(wǎng)絡(luò)
5.1連續(xù)Hopfield網(wǎng)絡(luò)
5.1.1連續(xù)Hopfield網(wǎng)絡(luò)原理
5.1.2Hopfield網(wǎng)絡(luò)的穩(wěn)定性
5.2離散Hopfield網(wǎng)絡(luò)
5.2.1離散Hopfield網(wǎng)絡(luò)原理
5.2.2離散Hopfield網(wǎng)絡(luò)的穩(wěn)定性
5.3Hopfield網(wǎng)絡(luò)應(yīng)用
5.3.1連續(xù)Hopfield網(wǎng)絡(luò)與優(yōu)化計(jì)算
5.3.2離散Hopfield網(wǎng)絡(luò)與聯(lián)想存儲(chǔ)
5.4應(yīng)用和仿真實(shí)例
5.4.1連續(xù)Hopfield網(wǎng)絡(luò)應(yīng)用實(shí)例：TSP問題
5.4.2離散Hopfield網(wǎng)絡(luò)仿真：字符存儲(chǔ)
第6章自組織特征映射
6.1生物系統(tǒng)中的競爭
6.2SOFM結(jié)構(gòu)
6.3SOFM的學(xué)習(xí)算法
6.4仿真例子
第7章神經(jīng)網(wǎng)絡(luò)的泛化理論
7.1神經(jīng)網(wǎng)絡(luò)的泛化理論簡介
7.2泛化誤差的偏差-標(biāo)準(zhǔn)差分解
7.3結(jié)構(gòu)復(fù)雜性和樣本復(fù)雜性對(duì)神經(jīng)網(wǎng)絡(luò)泛化能力的影響
7.3.1線性閾值神經(jīng)網(wǎng)絡(luò)
7.3.2函數(shù)逼近神經(jīng)網(wǎng)絡(luò)
7.4正則化方法對(duì)泛化能力的影響
7.5神經(jīng)網(wǎng)絡(luò)集成對(duì)泛化能力的影響
7.6樣本輸入中加噪聲對(duì)泛化能力的影響
7.7其他因素對(duì)泛化能力的影響
第8章神經(jīng)網(wǎng)絡(luò)的參數(shù)優(yōu)化設(shè)計(jì)
8.1主動(dòng)學(xué)習(xí)
8.1.1原理
8.1.2仿真例子：三角形概念學(xué)習(xí)
8.2在樣本輸入中添加隨機(jī)噪聲
8.2.1噪聲添加方法
8.2.2仿真例子
8.3神經(jīng)網(wǎng)絡(luò)集成
8.3.1原理
8.3.2仿真例子：廣義異或問題
8.4基于先驗(yàn)知識(shí)的泛化方法
8.5最優(yōu)停止法
8.5.1原理
8.5.2仿真例子：Hermit多項(xiàng)式逼近
第9章神經(jīng)網(wǎng)絡(luò)構(gòu)造方法
9.1神經(jīng)網(wǎng)絡(luò)構(gòu)造方法簡介
9.2級(jí)連相關(guān)算法
9.2.1BP算法收斂速度慢的原區(qū)
9.2.2網(wǎng)絡(luò)結(jié)構(gòu)
9.2.3權(quán)值學(xué)習(xí)算法
9.2.4算法實(shí)現(xiàn)
9.2.5算法討論
9.2.6仿真結(jié)果：雙螺旋分類問題
9.3資源分配網(wǎng)絡(luò)
9.3.1RAN網(wǎng)絡(luò)結(jié)構(gòu)
9.3.2學(xué)習(xí)算法
9.3.3算法實(shí)現(xiàn)
9.3.4RAN的優(yōu)點(diǎn)與缺點(diǎn)
9.3.5仿真：Hermit多項(xiàng)式在線學(xué)習(xí)
第10章神經(jīng)網(wǎng)絡(luò)剪枝方法
10.1權(quán)衰減法
10.1.1權(quán)消去法剪枝原理
10.1.2正則化系數(shù)丸的動(dòng)態(tài)修改策略
10.1.3試驗(yàn)例子：非線性系統(tǒng)辨識(shí)
10.2靈敏度計(jì)算方法
10.2.1Skeletonization方法原理
10.2.2仿真例子：非線性系統(tǒng)結(jié)構(gòu)辨識(shí)
10.3相關(guān)性剪枝方法
10,3.1隱節(jié)點(diǎn)之間相關(guān)情況分析
10.3.2隱節(jié)點(diǎn)合成方法
10.3.3仿真例子
第11章進(jìn)化神經(jīng)網(wǎng)絡(luò)方法
11.1進(jìn)化神經(jīng)網(wǎng)絡(luò)簡介
11.2進(jìn)化優(yōu)選算法
11.2.1OLS算法設(shè)計(jì)RBF網(wǎng)的缺點(diǎn)
11.2.2進(jìn)化優(yōu)選算法的數(shù)學(xué)基礎(chǔ)
11.2.3進(jìn)化優(yōu)選算法(ESA算法)
11.2.4算法的效率分析
11.2.5ESA算法實(shí)現(xiàn)
11.2.6仿真例子
第12章混雜神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)
12.1資源優(yōu)化網(wǎng)絡(luò)
12.1.1資源優(yōu)化網(wǎng)絡(luò)簡介
12.1.2RON在線RBF網(wǎng)設(shè)計(jì)方法
12.1.3仿真研究
12.1.4RON的優(yōu)缺點(diǎn)
12.2神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)分解方法
12.2.1神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)分解方法簡介
12.2.2神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)分解原理
12.2.3基于結(jié)構(gòu)分解的神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法
12.2.4應(yīng)用例子
附錄A：用于三分類的BP算法程序
附錄B：用于函數(shù)逼近的BP算法程序
附錄C：基于聚類的RBF網(wǎng)設(shè)計(jì)算法
附錄D：基于梯度法的RBF網(wǎng)設(shè)計(jì)算法
附錄E：基于OLS的RBF網(wǎng)設(shè)計(jì)算法
附錄F：連續(xù)Hopfield網(wǎng)絡(luò)解決TSP的程序
附錄G：樣本輸入加噪聲訓(xùn)練程序
附錄H：神經(jīng)網(wǎng)絡(luò)集成訓(xùn)練程序
附錄I：最優(yōu)停止法訓(xùn)練程序
附錄J：級(jí)連相關(guān)算法
附錄K：資源分配網(wǎng)絡(luò)算法
附錄L：權(quán)消去法
附錄M：Skeletonization方法
附錄N：隱節(jié)點(diǎn)合成算法
參考文獻(xiàn)