神經網絡結構設計的理論與方法

第1章概論
1.1神經網絡簡介
1.2神經網絡研究內容
1.3本書內容
1.4參考資料簡介
第2章基本的神經元及其學習規(guī)則
2.1神經元模型
2.1.1大腦神經細胞
2.1.2MP模型
2.1.3一般神經元模型
2.2神經元學習算法
2.2.1Hebb學習規(guī)則
2.2.2離散感知器學習規(guī)則
2.2.3學習規(guī)則
2.2.4Widrow-Hoff學習規(guī)則
2.3單個神經元解決問題的能力
2.3.1單個神經元的分類能力
2.3.2多個神經元的分類能力
2.4神經網絡的拓撲結構
2.4.1前向神經網絡
2.4.2反饋神經網絡
第3章多層感知器網絡
3.1兩層感知器網絡
3.1.1單神經元用于兩分類
3.1.2多輸出兩層感知器用于多分類
3.2線性閾值單元組成的多層感知器
3.3BP網及BP算法
3.3.1BP網絡結構
3.3.2BP學習算法
3.3.3BP算法應用例子
3.3.4BP網和BP算法應用要點
3.3.5BP算法的改進
第4章徑向基函數神經網絡
4.1RBF網結構和工作原理
4.2RBF網的生理學基礎
4.3RBF網的數學基礎
4.3.1內插問題
4.3.2正則化網絡
4.4RBF網常用的學習算法
4.4.1聚類方法
4.4.2梯度訓練方法
4.4.3正交最小二乘(OLS)學習算法
4,5RBF網的學習動態(tài)
4.5.1定義
4.5.2主要結論
4.5.3算例
4.5.4RBF網的學習動態(tài)與RBF網設計
4.6仿真例子
4.7RBF網的特點及其他問題
第5章Hopfield網絡
5.1連續(xù)Hopfield網絡
5.1.1連續(xù)Hopfield網絡原理
5.1.2Hopfield網絡的穩(wěn)定性
5.2離散Hopfield網絡
5.2.1離散Hopfield網絡原理
5.2.2離散Hopfield網絡的穩(wěn)定性
5.3Hopfield網絡應用
5.3.1連續(xù)Hopfield網絡與優(yōu)化計算
5.3.2離散Hopfield網絡與聯想存儲
5.4應用和仿真實例
5.4.1連續(xù)Hopfield網絡應用實例：TSP問題
5.4.2離散Hopfield網絡仿真：字符存儲
第6章自組織特征映射
6.1生物系統(tǒng)中的競爭
6.2SOFM結構
6.3SOFM的學習算法
6.4仿真例子
第7章神經網絡的泛化理論
7.1神經網絡的泛化理論簡介
7.2泛化誤差的偏差-標準差分解
7.3結構復雜性和樣本復雜性對神經網絡泛化能力的影響
7.3.1線性閾值神經網絡
7.3.2函數逼近神經網絡
7.4正則化方法對泛化能力的影響
7.5神經網絡集成對泛化能力的影響
7.6樣本輸入中加噪聲對泛化能力的影響
7.7其他因素對泛化能力的影響
第8章神經網絡的參數優(yōu)化設計
8.1主動學習
8.1.1原理
8.1.2仿真例子：三角形概念學習
8.2在樣本輸入中添加隨機噪聲
8.2.1噪聲添加方法
8.2.2仿真例子
8.3神經網絡集成
8.3.1原理
8.3.2仿真例子：廣義異或問題
8.4基于先驗知識的泛化方法
8.5最優(yōu)停止法
8.5.1原理
8.5.2仿真例子：Hermit多項式逼近
第9章神經網絡構造方法
9.1神經網絡構造方法簡介
9.2級連相關算法
9.2.1BP算法收斂速度慢的原區(qū)
9.2.2網絡結構
9.2.3權值學習算法
9.2.4算法實現
9.2.5算法討論
9.2.6仿真結果：雙螺旋分類問題
9.3資源分配網絡
9.3.1RAN網絡結構
9.3.2學習算法
9.3.3算法實現
9.3.4RAN的優(yōu)點與缺點
9.3.5仿真：Hermit多項式在線學習
第10章神經網絡剪枝方法
10.1權衰減法
10.1.1權消去法剪枝原理
10.1.2正則化系數丸的動態(tài)修改策略
10.1.3試驗例子：非線性系統(tǒng)辨識
10.2靈敏度計算方法
10.2.1Skeletonization方法原理
10.2.2仿真例子：非線性系統(tǒng)結構辨識
10.3相關性剪枝方法
10,3.1隱節(jié)點之間相關情況分析
10.3.2隱節(jié)點合成方法
10.3.3仿真例子
第11章進化神經網絡方法
11.1進化神經網絡簡介
11.2進化優(yōu)選算法
11.2.1OLS算法設計RBF網的缺點
11.2.2進化優(yōu)選算法的數學基礎
11.2.3進化優(yōu)選算法(ESA算法)
11.2.4算法的效率分析
11.2.5ESA算法實現
11.2.6仿真例子
第12章混雜神經網絡設計
12.1資源優(yōu)化網絡
12.1.1資源優(yōu)化網絡簡介
12.1.2RON在線RBF網設計方法
12.1.3仿真研究
12.1.4RON的優(yōu)缺點
12.2神經網絡的結構分解方法
12.2.1神經網絡的結構分解方法簡介
12.2.2神經網絡的結構分解原理
12.2.3基于結構分解的神經網絡設計方法
12.2.4應用例子
附錄A：用于三分類的BP算法程序
附錄B：用于函數逼近的BP算法程序
附錄C：基于聚類的RBF網設計算法
附錄D：基于梯度法的RBF網設計算法
附錄E：基于OLS的RBF網設計算法
附錄F：連續(xù)Hopfield網絡解決TSP的程序
附錄G：樣本輸入加噪聲訓練程序
附錄H：神經網絡集成訓練程序
附錄I：最優(yōu)停止法訓練程序
附錄J：級連相關算法
附錄K：資源分配網絡算法
附錄L：權消去法
附錄M：Skeletonization方法
附錄N：隱節(jié)點合成算法
參考文獻