自己動手寫神經網絡

第1章　人工神經網絡概述\t1
1．1　人工智能與神經網絡簡史\t1
1．1．1　人工智能的誕生：1943～1956年\t2
1．1．2　黃金發(fā)展期：1956～1974年\t3
1．1．3　第一次低谷期：1974～1980年\t4
1．1．4　繁榮期：1980～1987年\t5
1．1．5　第二次低谷期：1987～1993年\t5
1．1．6　再次崛起：1993年至今\t6
1．2　生物學研究對神經網絡的影響\t6
1．3　大數(shù)據(jù)對人工智能的影響\t8
1．4　計算機硬件發(fā)展對人工智能的影響\t9
1．5　計算機軟件發(fā)展對人工智能的影響\t9
1．6　人工智能的廣泛應用\t10
第2章　人工神經元模型與感知機\t12
2．1　人工神經元組成要素\t12
2．1．1　人工神經元的基本結構\t12
2．1．2　傳輸函數(shù)類型\t13
2．2　感知機\t15
2．2．1　使用感知機識別水果\t15
2．2．2　讓感知機記憶邏輯與\t17
2．2．3　感知機的學習算法\t18
2．3　總結\t20
第3章　神經網絡框架Neuroph介紹\t21
3．1　Neuroph是什么\t21
3．2　Neuroph系統(tǒng)的構成\t22
3．3　Neuroph Studio的功能展示\t22
3．3．1　使用Neuroph Studio構造感知機處理邏輯與\t23
3．3．2　使用Neuroph Studio進行動物分類實驗\t28
3．4　Neuroph Library架構分析\t34
3．4．1　Neuroph Library核心架構\t35
3．4．2　Neuron神經元\t35
3．4．3　Layer層\t36
3．4．4　NeuralNetwork神經網絡\t37
3．4．5　LearningRule學習算法\t37
3．4．6　DataSet和DataSetRow\t38
3．5　Neuroph開發(fā)環(huán)境搭建\t38
3．5．1　基礎平臺——Java介紹以及安裝\t39
3．5．2　包管理工具——Maven安裝\t39
3．5．3　開發(fā)工具——Eclipse安裝\t40
3．6　總結\t41
第4章　使用Java實現(xiàn)感知機及其應用\t42
4．1　第一個Neuroph程序——使用感知機記憶邏輯與\t42
4．1．1　創(chuàng)建感知機網絡\t42
4．1．2　理解輸入神經元InputNeuron\t45
4．1．3　理解貝葉斯神經元BiasNeuron\t45
4．1．4　step傳輸函數(shù)是如何實現(xiàn)的\t46
4．2　讓感知機理解坐標系統(tǒng)\t47
4．2．1　感知機網絡的設計\t47
4．2．2　感知機網絡的實現(xiàn)\t47
4．3　感知機學習算法與Java實現(xiàn)\t49
4．3．1　感知機學習規(guī)則的實現(xiàn)\t50
4．3．2　一個自學習的感知機實現(xiàn)——SimplePerceptron\t51
4．3．3　小試牛刀——SimplePerceptron學習邏輯與\t52
4．3．4　訓練何時停止\t53
4．4　再看坐標點位置識別\t55
4．5　感知機的極限——異或問題\t57
4．6　總結\t58
第5章　ADALINE網絡及其應用\t59
5．1　ADALINE網絡與LMS算法\t59
5．2　ADALINE網絡的Java實現(xiàn)\t60
5．3　使用ADALINE網絡識別數(shù)字\t62
5．3．1　印刷體數(shù)字識別問題概述\t62
5．3．2　代碼實現(xiàn)\t63
5．3．3　加入噪點后再嘗試\t66
5．4　總結\t67
第6章　多層感知機和BP學習算法\t68
6．1　多層感知機的結構與簡單實現(xiàn)\t68
6．1．1　多層感知機結構的提出\t68
6．1．2　定義多層感知機處理異或問題\t69
6．1．3　多層感知機的簡單實現(xiàn)\t71
6．2　多層感知機學習算法——BP學習算法\t74
6．2．1　BP學習算法理論介紹\t74
6．2．2　BP學習算法與BP神經網絡的實現(xiàn)\t77
6．3　BP神經網絡細節(jié)優(yōu)化\t84
6．3．1　隨機化權值的方式\t84
6．3．2　Sigmoid函數(shù)導數(shù)的探討\t86
6．4　帶著算法重回異或問題\t87
6．5　總結\t89
第7章　BP神經網絡的案例\t90
7．1　奇偶性判別問題\t90
7．1．1　問題描述\t90
7．1．2　代碼實現(xiàn)\t90
7．2　函數(shù)逼近\t94
7．2．1　問題描述\t94
7．2．2　代碼實現(xiàn)\t94
7．3　動物分類\t99
7．3．1　問題描述\t99
7．3．2　問題分析\t100
7．3．3　代碼實現(xiàn)\t102
7．4　簡單的語音識別\t104
7．4．1　問題描述\t104
7．4．2　代碼實現(xiàn)\t104
7．5　MNIST手寫體識別\t106
7．5．1　問題描述\t106
7．5．2　問題分析\t108
7．5．3　代碼實現(xiàn)\t108
7．6　總結\t112
第8章　Hopfield神經網絡\t113
8．1　Hopfield神經網絡的結構和原理\t113
8．1．1　Hopfield網絡的結構\t113
8．1．2　網絡吸引子\t114
8．1．3　網絡權值的設計\t115
8．2　網絡的存儲容量\t117
8．3　Hopfield神經網絡的Java實現(xiàn)\t118
8．3．1　Hopfield網絡構造函數(shù)\t118
8．3．2　Hopfield網絡的神經及其特點\t119
8．3．3　Hopfield網絡學習算法\t120
8．4　Hopfield網絡還原帶有噪點的字符\t121
8．5　Hopfield網絡的自聯(lián)想案例\t123
8．6　總結\t126
第9章　BAM雙向聯(lián)想記憶網絡\t127
9．1　BAM網絡的結構與原理\t127
9．2　BAM網絡的學習算法\t128
9．3　使用Java實現(xiàn)BAM網絡\t129
9．3．1　BAM網絡的靜態(tài)結構\t129
9．3．2　BAM網絡學習算法\t130
9．3．3　BAM網絡的運行\(zhòng)t131
9．4　BAM網絡的應用\t133
9．4．1　場景描述——人名與電話\t133
9．4．2　數(shù)據(jù)編碼設計\t134
9．4．3　具體實現(xiàn)\t136
9．5　總結\t140
第10章　競爭學習網絡\t141
10．1　競爭學習的基本原理\t141
10．1．1　向量的相似性\t142
10．1．2　競爭學習規(guī)則\t143
10．2　自組織映射網絡SOM的原理\t144
10．2．1　SOM網絡的生物學意義\t144
10．2．2　SOM網絡的結構\t144
10．2．3　SOM網絡的運行原理\t145
10．2．4　有關初始化權重的問題\t146
10．3　SOM網絡的Java實現(xiàn)\t147
10．3．1　SOM網絡拓撲結構的實現(xiàn)\t147
10．3．2　SOM網絡的初始權值設置\t150
10．3．3　Kohonen算法的實現(xiàn)\t153
10．4　SOM網絡的應用\t157
10．4．1　使用SOM網絡進行動物聚類\t158
10．4．2　使用SOM網絡進行城市聚類\t161
10．5　總結\t164
第11章　PCA神經網絡\t165
11．1　PCA方法概述\t165
11．1．1　PCA方法數(shù)學背景\t166
11．1．2　PCA計算示例\t167
11．2　PCA神經網絡學習算法\t170
11．2．1　Oja算法\t170
11．2．2　Sanger算法\t171
11．3　基于Neuroph實現(xiàn)PCA網絡\t172
11．3．1　Oja算法的實現(xiàn)\t172
11．3．2　Sanger算法的實現(xiàn)\t177
11．4　使用PCA網絡預處理MNIST手寫體數(shù)據(jù)集\t178
11．5　總結\t181