自己動手寫神經(jīng)網(wǎng)絡

第1章　人工神經(jīng)網(wǎng)絡概述\t1
1．1　人工智能與神經(jīng)網(wǎng)絡簡史\t1
1．1．1　人工智能的誕生：1943～1956年\t2
1．1．2　黃金發(fā)展期：1956～1974年\t3
1．1．3　第一次低谷期：1974～1980年\t4
1．1．4　繁榮期：1980～1987年\t5
1．1．5　第二次低谷期：1987～1993年\t5
1．1．6　再次崛起：1993年至今\t6
1．2　生物學研究對神經(jīng)網(wǎng)絡的影響\t6
1．3　大數(shù)據(jù)對人工智能的影響\t8
1．4　計算機硬件發(fā)展對人工智能的影響\t9
1．5　計算機軟件發(fā)展對人工智能的影響\t9
1．6　人工智能的廣泛應用\t10
第2章　人工神經(jīng)元模型與感知機\t12
2．1　人工神經(jīng)元組成要素\t12
2．1．1　人工神經(jīng)元的基本結構\t12
2．1．2　傳輸函數(shù)類型\t13
2．2　感知機\t15
2．2．1　使用感知機識別水果\t15
2．2．2　讓感知機記憶邏輯與\t17
2．2．3　感知機的學習算法\t18
2．3　總結\t20
第3章　神經(jīng)網(wǎng)絡框架Neuroph介紹\t21
3．1　Neuroph是什么\t21
3．2　Neuroph系統(tǒng)的構成\t22
3．3　Neuroph Studio的功能展示\t22
3．3．1　使用Neuroph Studio構造感知機處理邏輯與\t23
3．3．2　使用Neuroph Studio進行動物分類實驗\t28
3．4　Neuroph Library架構分析\t34
3．4．1　Neuroph Library核心架構\t35
3．4．2　Neuron神經(jīng)元\t35
3．4．3　Layer層\t36
3．4．4　NeuralNetwork神經(jīng)網(wǎng)絡\t37
3．4．5　LearningRule學習算法\t37
3．4．6　DataSet和DataSetRow\t38
3．5　Neuroph開發(fā)環(huán)境搭建\t38
3．5．1　基礎平臺——Java介紹以及安裝\t39
3．5．2　包管理工具——Maven安裝\t39
3．5．3　開發(fā)工具——Eclipse安裝\t40
3．6　總結\t41
第4章　使用Java實現(xiàn)感知機及其應用\t42
4．1　第一個Neuroph程序——使用感知機記憶邏輯與\t42
4．1．1　創(chuàng)建感知機網(wǎng)絡\t42
4．1．2　理解輸入神經(jīng)元InputNeuron\t45
4．1．3　理解貝葉斯神經(jīng)元BiasNeuron\t45
4．1．4　step傳輸函數(shù)是如何實現(xiàn)的\t46
4．2　讓感知機理解坐標系統(tǒng)\t47
4．2．1　感知機網(wǎng)絡的設計\t47
4．2．2　感知機網(wǎng)絡的實現(xiàn)\t47
4．3　感知機學習算法與Java實現(xiàn)\t49
4．3．1　感知機學習規(guī)則的實現(xiàn)\t50
4．3．2　一個自學習的感知機實現(xiàn)——SimplePerceptron\t51
4．3．3　小試牛刀——SimplePerceptron學習邏輯與\t52
4．3．4　訓練何時停止\t53
4．4　再看坐標點位置識別\t55
4．5　感知機的極限——異或問題\t57
4．6　總結\t58
第5章　ADALINE網(wǎng)絡及其應用\t59
5．1　ADALINE網(wǎng)絡與LMS算法\t59
5．2　ADALINE網(wǎng)絡的Java實現(xiàn)\t60
5．3　使用ADALINE網(wǎng)絡識別數(shù)字\t62
5．3．1　印刷體數(shù)字識別問題概述\t62
5．3．2　代碼實現(xiàn)\t63
5．3．3　加入噪點后再嘗試\t66
5．4　總結\t67
第6章　多層感知機和BP學習算法\t68
6．1　多層感知機的結構與簡單實現(xiàn)\t68
6．1．1　多層感知機結構的提出\t68
6．1．2　定義多層感知機處理異或問題\t69
6．1．3　多層感知機的簡單實現(xiàn)\t71
6．2　多層感知機學習算法——BP學習算法\t74
6．2．1　BP學習算法理論介紹\t74
6．2．2　BP學習算法與BP神經(jīng)網(wǎng)絡的實現(xiàn)\t77
6．3　BP神經(jīng)網(wǎng)絡細節(jié)優(yōu)化\t84
6．3．1　隨機化權值的方式\t84
6．3．2　Sigmoid函數(shù)導數(shù)的探討\t86
6．4　帶著算法重回異或問題\t87
6．5　總結\t89
第7章　BP神經(jīng)網(wǎng)絡的案例\t90
7．1　奇偶性判別問題\t90
7．1．1　問題描述\t90
7．1．2　代碼實現(xiàn)\t90
7．2　函數(shù)逼近\t94
7．2．1　問題描述\t94
7．2．2　代碼實現(xiàn)\t94
7．3　動物分類\t99
7．3．1　問題描述\t99
7．3．2　問題分析\t100
7．3．3　代碼實現(xiàn)\t102
7．4　簡單的語音識別\t104
7．4．1　問題描述\t104
7．4．2　代碼實現(xiàn)\t104
7．5　MNIST手寫體識別\t106
7．5．1　問題描述\t106
7．5．2　問題分析\t108
7．5．3　代碼實現(xiàn)\t108
7．6　總結\t112
第8章　Hopfield神經(jīng)網(wǎng)絡\t113
8．1　Hopfield神經(jīng)網(wǎng)絡的結構和原理\t113
8．1．1　Hopfield網(wǎng)絡的結構\t113
8．1．2　網(wǎng)絡吸引子\t114
8．1．3　網(wǎng)絡權值的設計\t115
8．2　網(wǎng)絡的存儲容量\t117
8．3　Hopfield神經(jīng)網(wǎng)絡的Java實現(xiàn)\t118
8．3．1　Hopfield網(wǎng)絡構造函數(shù)\t118
8．3．2　Hopfield網(wǎng)絡的神經(jīng)及其特點\t119
8．3．3　Hopfield網(wǎng)絡學習算法\t120
8．4　Hopfield網(wǎng)絡還原帶有噪點的字符\t121
8．5　Hopfield網(wǎng)絡的自聯(lián)想案例\t123
8．6　總結\t126
第9章　BAM雙向聯(lián)想記憶網(wǎng)絡\t127
9．1　BAM網(wǎng)絡的結構與原理\t127
9．2　BAM網(wǎng)絡的學習算法\t128
9．3　使用Java實現(xiàn)BAM網(wǎng)絡\t129
9．3．1　BAM網(wǎng)絡的靜態(tài)結構\t129
9．3．2　BAM網(wǎng)絡學習算法\t130
9．3．3　BAM網(wǎng)絡的運行\(zhòng)t131
9．4　BAM網(wǎng)絡的應用\t133
9．4．1　場景描述——人名與電話\t133
9．4．2　數(shù)據(jù)編碼設計\t134
9．4．3　具體實現(xiàn)\t136
9．5　總結\t140
第10章　競爭學習網(wǎng)絡\t141
10．1　競爭學習的基本原理\t141
10．1．1　向量的相似性\t142
10．1．2　競爭學習規(guī)則\t143
10．2　自組織映射網(wǎng)絡SOM的原理\t144
10．2．1　SOM網(wǎng)絡的生物學意義\t144
10．2．2　SOM網(wǎng)絡的結構\t144
10．2．3　SOM網(wǎng)絡的運行原理\t145
10．2．4　有關初始化權重的問題\t146
10．3　SOM網(wǎng)絡的Java實現(xiàn)\t147
10．3．1　SOM網(wǎng)絡拓撲結構的實現(xiàn)\t147
10．3．2　SOM網(wǎng)絡的初始權值設置\t150
10．3．3　Kohonen算法的實現(xiàn)\t153
10．4　SOM網(wǎng)絡的應用\t157
10．4．1　使用SOM網(wǎng)絡進行動物聚類\t158
10．4．2　使用SOM網(wǎng)絡進行城市聚類\t161
10．5　總結\t164
第11章　PCA神經(jīng)網(wǎng)絡\t165
11．1　PCA方法概述\t165
11．1．1　PCA方法數(shù)學背景\t166
11．1．2　PCA計算示例\t167
11．2　PCA神經(jīng)網(wǎng)絡學習算法\t170
11．2．1　Oja算法\t170
11．2．2　Sanger算法\t171
11．3　基于Neuroph實現(xiàn)PCA網(wǎng)絡\t172
11．3．1　Oja算法的實現(xiàn)\t172
11．3．2　Sanger算法的實現(xiàn)\t177
11．4　使用PCA網(wǎng)絡預處理MNIST手寫體數(shù)據(jù)集\t178
11．5　總結\t181