本文關(guān)鍵詞：一種基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法及其應(yīng)用，由筆耕文化傳播整理發(fā)布。

第３９卷第５期 ２００３年９月

南京大學(xué)學(xué)報（自然科學(xué)）
ＪＯＵＲＮＡＬ ＯＦ ＮＡＮＪ ＩＮＧ ＵＮＩＶＥＲＳＩＴＹ

、ｂ１．３９。Ｎｏ ５ Ｓｅｐｔ．，２００３

（ＮＡＴＵＲＡＬ ＳＣＩＥＮＣＥＳ）

一種基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法及其應(yīng)用’
王崇駿“，于汶滁，陳兆乾

，謝俊元
（南京大學(xué)計算機軟件新技術(shù)國家重點實驗塞，南京，２１００９３） 摘要： 主要分析了神經(jīng)網(wǎng)絡(luò)和遺傳算法的特點和存在的一些缺陷，研究了遺傳算法和ＢＰ神

經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法相結(jié)合的相關(guān)技術(shù)，設(shè)計并實現(xiàn)了一個基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法ＢＰ— ＧＡ，已應(yīng)用于肺癌早期細胞病理診斷系統(tǒng)中．實驗結(jié)果表明，該算法具有較強的收斂性和魯棒 性，其應(yīng)用效果很好 關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)，遺傳算法，軟計算 中圖分類號：ＴＰ
１８３

Ａ ＢＰ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ Ａｌｇｏｒｉｔｈｍ Ｂａｓｅｄ

ｏｎ

Ｇｅｎｅｔｉｃ Ａｌｇｏｒｉｔｈｍｓ ａｎｄ Ｉｔｓ Ａｐｐｌｉｃａｔｉｏｎ Ｗａｎｇ Ｃｋｏｎ９０“ｎ，Ｙｕ Ｗｊ＂．朧，Ｃｈｅｒｔ Ｚｈａｏ－Ｏｉａｎ，ⅪＰ Ｊｕｎ—Ｙｕａｎ
（Ｓｔａｔｅ
Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｆｏｒ Ｎｏｖｄ Ｓｏｆｔｗａｒｅ

Ｔｅｃｌｍｏｌｏｇｙ，Ｎａｎｊｉｎｇ Ｕｎｉｖｅｒｓｉｔｙ，Ｎａｎｊｉｎｇ ２１００９３，Ｃｈｉｎａ）
ｓｔｒｏｃｔｕｒｅ

Ａｂｓｔｒａｃｔ：Ｔｈｅ ｎｒ：ｄｅｌ

０ｆ Ｄｅｏｒａｌ ｎｅｔｗ＂ｒｋｓ ｍａｉｌｙ ｉｎｃｌｕｄｅｓ ｔｈｅ ｆ０１ｌｏｗｉｎｇ ｔｈｒｅｅ ｅｌｅｍｅｎｔｓ：（１）ｔｈｅ

ｏｆ

ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｉｎｃｌｕｄｉｎｇ ｔｈｅ ｌａｙｅｒｓ ａｉｄ ｔｈｅｉｒ

ｒｅｌａｔｉｏｎ；（２）ｔｈｅ ｆｕｎｃｔｉｏｎ ｏｆ ｎｅｕｒａｌ ｃａｌｌ；（３）ｔｈｅ ａｌｇｏｒｉｔｈｍｓ ｏｆ

ｌｅａｒｎｉｎｇ

Ｔｈｅｒｅ

ａｒｅ

ｍａｎｙ ｌｉｍｉｔａｔｉｏｎｓ ｉｍｐｌｅｍｅｎｔｉｎｇ ｔｈｅ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ａｃｃｏｒｄｉｎｇ ｔ。ｔｈｅ ｉｎｔｅｇｒａｔｉｏｎ ｏｆ ＢＰ ｎｅｕｒａｌ ＢＰ—ＧＡ．ａ ＢＰ ｎｅｕｒａｌ

ｎｅｔｗｏｒｋ ｌｅａｒｎｉｎｇ ａ｜ｇｏｒｌｔｈｔｌｔｓ Ｗｉｔｈ ｇｅｎｅｔｉｃ ａＩｇｏｒｉｔｈｎｌｓ Ｈｌｇｏｒｉｔｈｒｎｓ ｉｓ

ｎｏｔｗｏｒｋ ａｌｇｏｒｉｔｈｍ

ｂａｓｅｄ
ａＳ

ｏｎ

ｇｅｎｅｔｉｃ ｕｎｉｔａｒｙ

ｄｅｓｉｇｎｅｄ ａｎｄ ｉｍｐｌｅｍｅｎｔｅｄ
ｉｓ

７Ｆｈｉｓ ａｌｇｏｒｉｔｌＨｎ

ｌｏｏｋｓ

ｏｎ ｅｖｅｒｙ ＩｌｌａｔＩｉｘ

Ｏｆ ＢＰ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ

ａＩｌ

ｃｈｒｏｍｏｓｏｍｅ ｔｈａｔ
ａｓ

ｏｐｅｍｔｅｄ ｂｙ ｔｈｅ ｔｈｒｅｅ

ｍａｊｏｒ ｏｘｉｔｌｍａｅｔｉｃ

ｏｐｅｒａｔｏｒｓ

ｉｎｃｌｕｄｉｎｇ

ｓｅｔｅｃｔｉｏｎ．ｃｎ，；ｓｏｖ盯ａｎｄ

ｍｕｔａｔｉｏｎ
Ｔｈｅ

ｔｈｅ ｎｏｒｍａｌ

ｇｅｎｅｔｉｃ

ａｌｇｏｒｉｆｌｍｔｓ．Ｔｈｉｓ ｍｉｘｅｄ ａｌｇｏｒｉｔｈｍ ｈａｓ

ｂｅｅｎ剖ｉｎ

ｔｈｅ

ｄ【ａ靜ｖｍ

ｏｆ ｌｕｎｇ
ｉｎ

ｃａ／ｌｅｅｒ

ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ａｌｇｏｒｉｔｈｍ ｈａｓ ｂｍｔｅｒ ｏｏｎｖｅｒｇｅｎｃｅ，ｒ曲ｕｓｍｅ≈，ａｎｄ ｂｅｔｔｅｒ ｅｆｆｅｃｔ

ａｐｐｌｉｃａｔｉｏｎ

Ｋｅｙ ｗｉｉｔ．ｄｓＩ

ｎｅｕｒａ［ｎｅｔｗｏｒｋｓ，ｇｅｎｅｔｉｃ ａｌｇｏｒｉｔｈｍｓ，ｓｏｆｔ ｃｏｒｎｐｕｔｉｎｇ

作為對人類智能研究的重要組成部分，神經(jīng)網(wǎng)絡(luò)一直是人工智能、神經(jīng)科學(xué)、認知科學(xué)、 心理學(xué)、行為學(xué)等學(xué)科共同關(guān)心的焦點自２０世紀８０年代以來，神經(jīng)網(wǎng)絡(luò)的研究吸引了大
＊基金項目：江蘇省自然科學(xué)基金（ＢＫ２００１２０２，ＢＫ２００２０８１） 收稿日期：２００２—０９—３０ ¨通訊聯(lián)系人。Ｅ－ｍａｉｌ：ｃｈｊｗａｎｇ＠ｍ ｎｊｕ．ｅｄｕ ｃｎ

萬 　 方數(shù)據(jù)

南京大學(xué)學(xué)報（自然科學(xué)）

第３９卷

批研究人員的注意，在神經(jīng)網(wǎng)絡(luò)的理論模型、學(xué)習(xí)算法、開發(fā)工具等方面進行了廣泛深入的 探索，經(jīng)過多年的研究，在許多領(lǐng)域都取得了令人矚目的成就“１。． 從建�；驒C器學(xué)習(xí)的角度而言，神經(jīng)網(wǎng)絡(luò)模型有多種方式，但其中都包括３個基本的要 素，即：網(wǎng)絡(luò)拓撲結(jié)構(gòu)、神經(jīng)元特性函數(shù)和學(xué)習(xí)算法．這３個要素的不完備造成神經(jīng)網(wǎng)絡(luò)存在 以下幾個局限：（１）樣本數(shù)據(jù)要求高，樣本選擇比較困難；（２）計算速度慢，收斂與否不可控； （３）外推性比較差；（４）神經(jīng)網(wǎng)絡(luò)訓(xùn)練的結(jié)果使輸入輸出呈非線性關(guān)系，吼至于訓(xùn)練得到的權(quán) 值和閿值不可理解；（５）神經(jīng)網(wǎng)絡(luò)的可擴展性比較困難等等， 正因為如此，神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用效果完全取決于使用者的經(jīng)驗．雖然Ｈｏｍｉｋ等人”１ 證明，僅有一個非線性隱層的前饋網(wǎng)絡(luò)就能以任意精度逼近任意復(fù)雜度的函數(shù)，但一些研究 者ｆ８１指出，對網(wǎng)絡(luò)的配置和訓(xùn)練是ＮＰ問題．在解決真實世界問題時。由于缺乏問題的先驗 知識，往往需要經(jīng)過大量費力耗時的實驗摸索才能確定臺適的神經(jīng)網(wǎng)絡(luò)模型、訓(xùn)練算法以及 參數(shù)設(shè)置，其應(yīng)用效果完全取決于使用者的經(jīng)驗．即使采用同樣的方法解決同樣的問題，由 于操作者不同，其結(jié)果也很可能大相徑庭 針對上面提到的問題，有許多文獻都闡述了各自的觀點或算法進行神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用 的改進方案．文獻［９］提出ＦＴＡＲＴｌ至ＦＴＡＲＴ４等一系列新型神經(jīng)網(wǎng)絡(luò)模型，從網(wǎng)絡(luò)拓撲 結(jié)構(gòu)的角度對神經(jīng)網(wǎng)絡(luò)性能進行研究．文獻［１０］對神經(jīng)網(wǎng)絡(luò)的可理解性、可擴展性以及樣本 噪聲問題進行了研究． 遺傳算法（ＧＡ）是模擬自然選擇和遺傳的隨機搜索算法這一算法的提出之初是研究自 然系統(tǒng)的自適應(yīng)行為并設(shè)計具有自適應(yīng)功能的軟件系統(tǒng)．遺傳算法作為問題求解和最優(yōu)化 的有效工具，從２０世紀８０年代末開始就引起了學(xué)者的注意，至今已有大量的研究成果【Ｉｔ Ｊ． 遺傳算法應(yīng)用于神經(jīng)網(wǎng)絡(luò)引起許多學(xué)者的特別注意，這其中主要包括連接權(quán)系數(shù)的優(yōu) 化、網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化和學(xué)習(xí)規(guī)則的優(yōu)化．遺傳算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合，已成功地用于從時間 序列分析來進行財政預(yù)算．在這些系統(tǒng)中，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練信號是模糊的，數(shù)據(jù)是有噪聲的， 一般很難正確給出每個執(zhí)行的定量評價．如果采用遺傳算法來學(xué)習(xí)，就能克服這些困難，顯 著提高系統(tǒng)性能．ＭｕｈｌｅｒＬｂｅｉｎ分析了多層感知機網(wǎng)絡(luò)的局限性，甚至猜想下一代神經(jīng)網(wǎng)絡(luò) 將是遺傳神經(jīng)網(wǎng)絡(luò)． １
１．１

ＢＰ網(wǎng)絡(luò)和遺傳算法
ＢＰ神經(jīng)網(wǎng)絡(luò)ＢＰ神經(jīng)網(wǎng)絡(luò)（以下簡稱ＢＰ）是應(yīng)用最廣泛也是最成熟的一種人工神經(jīng)

網(wǎng)絡(luò)，現(xiàn)已廣泛應(yīng)用于信號處理、模式識別、系統(tǒng)辨識、自適應(yīng)控制等領(lǐng)域常規(guī)的ＢＰ神經(jīng) 網(wǎng)絡(luò)的應(yīng)用要點是初值的選取和學(xué)習(xí)速率的設(shè)定，其主要的學(xué)習(xí)過程是：將輸入模式從輸入 層經(jīng)隱層單元逐層處理，并傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)． 如果在輸出層不能得到期望的輸出，則將誤差信號沿原來的連接通路反向傳播，通過修改各 神經(jīng)元的權(quán)值，使誤差信號最�。� 通常采用的方法是梯度下降法，即擴展的８規(guī)則，因此在算法上就要求神經(jīng)元的特性函 數(shù)必須是可導(dǎo)的．而且，由于該算法兩次迭代的搜索方向總是正交的，即 ［一Ｖ，（日＾＋１）］·［一ｖ，（ｎ＾）］＝０ 這就說明，該方法在尋優(yōu)（極小點）的過程中會產(chǎn)生“鋸齒現(xiàn)象”，甚至陷入局部最�。�而

萬 　 方數(shù)據(jù)

一～— — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — 一
第５期 王崇駿等：基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法
’４６１。

且在訓(xùn)練的過程中，第一個樣本的誤差總是最大的，最后一個樣本的誤差總是最小的，這顯 然是不科學(xué)的
１

２遺傳算法遺傳算法是一種用于全局優(yōu)化搜索的迭代算法，它將生物進化過程抽象地

描述為復(fù)制、交叉、變異３個算子．該算法在每一次迭代時都擁有一組解答，這組解答最初是 隨機生成的．在每次迭代后又有一組新的解答由模擬進化和繼承的遺傳操作生成，每個解答 都由一個目標函數(shù)給予評價，而且這一過程不斷重復(fù)，直至達到某種形式上的收斂．新的一 組解答不但可以有選擇地保留一些目標函數(shù)值高的舊的解答，而且可以包括一些經(jīng)由其他 解答結(jié)合而得到的新的解答． 因為遺傳算法在每一次迭代（進化）過程中都是把有競爭力的基因保留，這就意味著遺 傳算法的結(jié)果總是在尋找該評價函數(shù)意義下的最優(yōu)值而這種尋優(yōu)在數(shù)學(xué)上是可以證明的， 所以將遺傳算法運用于尋優(yōu)過程是可靠的、魯棒的ＧＡ算法的幾個關(guān)鍵問題分別是編碼方 案的選取、參數(shù)的選擇和適應(yīng)度函數(shù)的確定． １．３遺傳算法和神經(jīng)網(wǎng)絡(luò)的結(jié)合遺傳算法和神經(jīng)網(wǎng)絡(luò)（ＮＮ）的集成主要采用互相輔助的 形式，通常的兩種做法是： （１）在以ＧＡ為主的系統(tǒng)中，利用嵌人式ＮＮ模塊的學(xué)習(xí)能力，為ＧＡ提供較好的初始 種群，從而達到優(yōu)化ＧＡ的目的． （２）在以ＮＮ為主的系統(tǒng)中，使用ＧＡ輔助ＮＮ進行各種形式的優(yōu)化，通常做法有：①使 用ＧＡ輔助神經(jīng)網(wǎng)絡(luò)分類器選擇相關(guān)的特性或變換所用的特征空間；⑦選擇學(xué)習(xí)規(guī)則或控 制ＮＮ學(xué)習(xí)參數(shù)，進行神經(jīng)網(wǎng)絡(luò)訓(xùn)練；③分析神經(jīng)網(wǎng)絡(luò)、評價神經(jīng)網(wǎng)絡(luò)參數(shù)及學(xué)習(xí)規(guī)則 大多數(shù)研究者發(fā)現(xiàn)，使用ＧＡ輔助ＮＮ比使用ＮＮ輔助ＧＡ更加自然，本文討論的ＢＰ— ＧＡ算法就是利用ＧＡ輔助ＮＮ進行網(wǎng)絡(luò)權(quán)系的訓(xùn)練和優(yōu)化

２一種基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法ＢＰ—ＧＡ
２．１

ＢＰ—ＧＡ算法的設(shè)計基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法（以下簡稱ＢＰ—ＧＡ）就是在

ＢＰ神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程中，將權(quán)重和閥值描述為染色體，并選取適宜的適應(yīng)函數(shù)，然后進行 ＧＡ迭代，直到某種意義上的收斂．與普通ＢＰ學(xué)習(xí)算法相比，算法ＢＰ—ＧＡ的優(yōu)勢在于可以 處理一些傳統(tǒng)方法不能處理的例子，例如不可導(dǎo)的特性函數(shù)（傳遞函數(shù)）或者沒有梯度信息 存在的節(jié)點．該算法涉及到兩個關(guān)鍵問題，分別是染色體位串與權(quán)系值的編碼映射和評價函 數(shù)［１“．
２．１

１染色體位串與權(quán)系值的編碼映射考慮到一個輸入結(jié)點為ｉ、隱含結(jié)點為ｊ、輸出結(jié)

點為ｋ的神經(jīng)網(wǎng)絡(luò)，ＢＰ神經(jīng)網(wǎng)絡(luò)訓(xùn)練的結(jié)果將生成４個矩陣： Ｗｌｌ （１）輸入層到隱含層的權(quán)值矩陣ｗ Ｗ２ｌ Ｗｉｌ Ｗ１１ Ｗ２２ Ｗｆ２ ｗ１Ｊ
Ｗ２ｊ
●●●

ＷＯ

萬 　 方數(shù)據(jù)

——————————一—————————————————————一————————————一——
．４６２．
ｙ１ ７２

南京大學(xué)學(xué)報（自然科學(xué)）

第３９卷

（２）隱含層的閥值矩陣

ｙ
＿●●

（２）

乃 Ｖ１１
Ｖｚｌ Ｖ１２ Ｖｌｋ Ｖａｋ
’●’

（３）隱含層到輸出層的權(quán)值矩陣Ｖ＝

％

（３）

％

（４）輸出層的閥值矩陣

ｎ＝睦

（４）

ＮＴＮＩＩＩＧＡ進行ＢＰ網(wǎng)絡(luò)的權(quán)系值優(yōu)化，即上述４個矩陣ｗ、ｒ、Ｖ和ｈ的優(yōu)化，必須 考慮將以上４個矩陣轉(zhuǎn)換成為方便ＧＡ操作的染色體串．一般而言，用一個二進制串作為染 色體編碼，每ｚ個染色體位代表一個系數(shù)值，而ｚ的取值范圍則根據(jù)權(quán)系值的范圍和精度 要求確定．染色體位串和權(quán)系值的編碼映射關(guān)系如圖１所示．

酷：：毪當：：邕：：毪名：：臺
ｚ

÷●—＋ｉ
國１染色體和權(quán)系值的編碼映射 Ｍａｐｐｆｎｇ ｆｒｏｍ ｗｅｌ曲臼ｔｏ ｃｈ呻瞄ｏｎ糟

Ｆｉｇ．１

２．１．２適應(yīng)度函數(shù)為了使用ＧＡ算法優(yōu)化權(quán)系值，必須有一個用于評價染色體的適應(yīng)度

函數(shù)，在ＢＰ—ＧＡ算法中，使用一種基于輸出層誤差的適應(yīng)度函數(shù)ｆ，定義如下：

當驀（跏一如）２＞ｃ一時，，Ｃｎ礎(chǔ)－－菪（卵 由）２；當耋（螄～由）２≤ｃ一時，，。ｏ，其中
ｃ。。是可能產(chǎn)生的誤差最大值．
２．２

（５）

ＢＰ—ＧＡ算法 （１）初始化樣本數(shù)據(jù)，具體工作是：將樣本數(shù)據(jù)錄入至輸入矩陣ｉｎｐｕｔ，（ｓ＝１．．ｉ）和輸

出矩陣ｏｕｔｐｕｔ；（ｓ＝１，．．ｊ）（這里假定輸入層結(jié)點為ｉ個，輸出層結(jié)點為ｊ個，樣本數(shù)為Ｐ 個），設(shè)定學(xué)習(xí)速率為ａ和盧；同時隨機生成染色體數(shù)據(jù)ｚ；（ｓ＝１．Ｎ），并設(shè)定交換概率盔 和變異概率戶。． （２）ｕｎｔｉｌ滿足性能要求，ｄｏ
（３）ｂｅｇｉｎ

萬 　 方數(shù)據(jù)

一— — — — — —一— — — — — — — — — — — 一
第５期 王崇駿等：基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法
’４６３。

（４）ｆｏｒ／ｓｔｅｐ＝１
（５）ｂｅｇｉｎ

ｔｏ

Ｎ ｄｏ

（６）將本次操作的染色體通過編碼映射生成矩陣Ｗ、７、Ｖ （７）Ｚ＝０

（８）對所有樣本，通過權(quán)系數(shù)矩陣Ｗ、ｙ、Ｖ計算出每一樣本的輸出并計算出每一樣本

的輸出誤差及誤差總和其中，每一個樣本的輸出誤差是：Ａｄ：２羔（掣。一ｙｍ）２，其中ｙｘ是
計算的輸出，ｙ是樣本輸出．所有樣本的輸出誤差總和是：。２點△ｄ。
（９）根據(jù)ｚ，結(jié)合公式（５）算得本染色體的適應(yīng)度函數(shù)， （１０）ｅｎｄ （兒）此時，根據(jù)各個染色體的適應(yīng)度函數(shù)值，利用輪盤法進行復(fù)制操作 （１２）ｉｆ（需要交換）
（１３）ｂｅｇｉｎ

（１４）對這些染色體進行交換操作
（１５）ｅｎｄ

（１６）ｉｆ（需要變異） （１７）ｂｅｇｉｎ （１８）對這些染色體進行變異操作 （１９）ｅｎｄ （２０）ｅｎｄ ３

ＢＰ—ＧＡ算法的實驗和比較

３．１實驗結(jié)果我們與中國人民解放軍八一醫(yī)院聯(lián)合研制了一個肺癌早期細胞病理電腦 診斷系統(tǒng)，對肺部切片的鏡像圖像進行模式識別以確定該組織細胞是否發(fā)生癌變．在臨床應(yīng) 用中，肺癌細胞共分為腺癌細胞、鱗癌細胞、小細胞癌細胞和核異型細胞，在數(shù)據(jù)表達上分別 使用整型的１、２、３、４表示其對應(yīng)的分類．早期肺癌診斷的基本過程是圖像數(shù)據(jù)采集、圖像特 征值提取和模式識別，在模式識別的過程中，本系統(tǒng)采用了基于ＢＰ—ＧＡ算法的神經(jīng)網(wǎng)絡(luò) 診斷 該系統(tǒng)在調(diào)試和試運行期間，共對該院的１８８個病例（１１９個顯微鏡切片，２５５幅顯微圖 像）進行了自動診斷．診斷界面為圖２所示．其具體的診斷結(jié)果參見表ｌ
表１系統(tǒng)試運行診斷結(jié)果分析
Ｔａｂｌｅ ｌ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ
ｒａｔｅｓ

ｂａｓｅｄ

ｏｎ

ＢＰ—ＧＡ

萬 　 方數(shù)據(jù)

———————————————一———————————一———
．４６４．

南京大學(xué)學(xué)報（自然科學(xué)）

第３９卷

圖２基于ＢＰ—ＧＡ神經(jīng)網(wǎng)絡(luò)的診斷界面
Ｆｉｇ．２ Ａ ｒｅｓｕｌｔ ｂａｓｅｄ
ｏｎ

ＢＰ—ＧＡ

從表ｌ可以看出，系統(tǒng)總的診斷正確率達到了９０％以上此外還分別對鱗癌細胞圖像、 腺癌細胞圖像和小細胞癌細胞圖像進行了測試，其結(jié)果為：鱗癌細胞的識別率最高，約為 ９６％，腺癌細胞次之，約為８９％，小細胞癌細胞最低，約為８３％．約有１０％～１３％的非癌細 胞被誤識別為癌細胞，也就是說系統(tǒng)的假陽性率約為１０％～１３％．這些被誤識別的癌細胞 主要包括一些雜質(zhì)、染色的染料及一些正常的細胞，它們在形狀和顏色上與癌細胞很相似， 說明該系統(tǒng)還需在圖像預(yù)處理方面進行提高 ３．２性能比較為了比較ＢＰ—ＧＡ算法和ＢＰ算法的異同，我們將兩種算法的學(xué)習(xí)情況作 了實驗比較． 在進行ＢＰ算法實驗時，選用的樣本數(shù)是５５０，學(xué)習(xí)速率“＝０．７，口＝０．７，輸入層結(jié)點１４ 個（共有１４個特征點），輸出層共有５個結(jié)點（分別對應(yīng)上面所述的４種癌細胞和正常細 胞），隱含層９個 在進行ＢＰ—ＧＡ算法實驗時，選用的樣本數(shù)是５５０，交換概率Ｐ，＝０．７，變異概率Ｐ。＝ ０．２，輸入層結(jié)點１４個，輸出層結(jié)點５個，隱含層９個，種群規(guī)模３００個 兩種算法的學(xué)習(xí)情況如圖３和４所示，圖３是采用ＢＰ算法進行網(wǎng)絡(luò)訓(xùn)練時的學(xué)習(xí)過 程，其中縱坐標表示每次訓(xùn)練時的平均誤差，橫坐標是訓(xùn)練次數(shù)．圖４是采用ＢＰ—ＧＡ算法 進行網(wǎng)絡(luò)訓(xùn)練時的學(xué)習(xí)過程，其中縱坐標表示每次訓(xùn)練時的平均誤差，橫坐標是訓(xùn)練次數(shù) 由圖３和圖４可以看到，ＢＰ算法在迭代到３ ０００次以后趨于收斂，但仍然存在“鋸齒現(xiàn)象”； ＢＰ—ＧＡ算法在迭代生成２６代以后就已經(jīng)收斂，而且不存在“鋸齒現(xiàn)象”，顯然，在收斂方面 ＢＰ—ＧＡ優(yōu)越于ＢＰ算法

萬 　 方數(shù)據(jù)

第５期

王崇駿等：基于遺傳算法的ＢＰ神經(jīng)網(wǎng)絡(luò)算法

’４６５

圖３
Ｆｉｇ．３

ＢＰ算法學(xué)習(xí)過程誤差曲線
Ｅｒｒｏｒ－ｃｕｒｖｅ

圈４
Ｆｉｇ．４

ＢＰ—ＧＡ算法學(xué)習(xí)過程誤差曲線
Ｅｔｌｍ４－－ｃｕｒｖｅ

ｏｆ ＢＰ ｌｅａｒｎｉｎｇ

ｏｆ ＢＰ—ＧＡ ｌｅａｒｎｉｎｇ

但是應(yīng)當注意到，ＢＰ—ＧＡ算法收斂后的誤差為０．２２左右，而ＢＰ算法趨于收斂后的誤 差在０．２０左右，經(jīng)過分析，我們認為這主要是ＢＰ—ＧＡ算法實現(xiàn)時使用的種群規(guī)模偏小造 成的，在擴大種群規(guī)模后，這個誤差可以縮�。�但是應(yīng)當注意到，由于ＢＰ～ＧＡ算法在擴大 種群規(guī)模的時候．其用于存儲染色體的存儲空間直線變大，對于網(wǎng)絡(luò)結(jié)構(gòu)比較復(fù)雜的神經(jīng)網(wǎng) 絡(luò)更是如此，這也是該算法的一個缺點，有待于改進．

４結(jié)束語
ＧＡ和ＮＮ都是基于生物學(xué)基礎(chǔ)上的科學(xué)研究成果，但兩者的本質(zhì)是不同的．將其進行 結(jié)合研究，一是希望借鑒二者的長處，尋找一條求解復(fù)雜問題的途徑；另一方面，也借助兩者 的結(jié)合，使人們更好地理解進化和學(xué)習(xí)的相互關(guān)系，以便改進神經(jīng)網(wǎng)絡(luò)的不足． 根據(jù)本文研究的結(jié)果表明，ＧＡ和ＮＮ結(jié)合的效果很好，而且這在生物學(xué)上是有相應(yīng)的 理論解釋的：細胞凋亡學(xué)術(shù)界認為許多細胞在發(fā)育的過程中會因為外在的原因（對應(yīng)于神經(jīng) 網(wǎng)絡(luò)中的樣本輸人）和內(nèi)在的某種機制（對應(yīng)于神經(jīng)元特性函數(shù)）導(dǎo)致該細胞程序性死亡從 進化意義上而言，這是該細胞不適應(yīng)環(huán)境的結(jié)果，在人體的機體組織發(fā)展過程中就體現(xiàn)在許 多以前該細胞承擔(dān)的功能沒有了或減弱了，這與本文ＢＰ—ＧＡ算法中提到的用ＧＡ調(diào)整權(quán) 值，結(jié)果是一樣的本文的研究結(jié)果表明細胞凋亡理論與神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)互相結(jié)合，是很有 研究價值和應(yīng)用前景的．

［１］Ｈｕａｎｇ Ｗ Ｍ．Ｌｉｐｐｎｍｍｌ
Ｐｒｏｃｅｓｓｉｎｇ

Ｒ Ｐ

Ｎｅｕｒａｌ

ｎｅｔ

ａｎｄ ｔｒａｄｉｔｉｏｎｄ ｃｌｅ。Ｋｓｉｆｉｅｒｓ

Ａｎｄｅｒｓｏｎ

Ｄ

Ｎｅｕｒａｌ Ｉｎｆｏｒｍａｔｉｏｎ

Ｓ州∞Ｂ．Ｎｅｗ
ＲＰ

Ｙｏｒｋ：Ａｍｅｒｉｃａｎ Ｉｎｓｔｉｔｕｔｉｏｎ

ｏｆ Ｐｈｙｓｌ∞．１９８８：３８７～３３９

［２］Ｌｉｐｐｍａｎｎ ［３］Ｌｅａｌｇ

Ｐａｔｔｅｍ ｃｔａ．ｍｉｆｉｃａｔｌｏｎ ｕｓｉｎｇ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ．ＩＥＥＥ Ｃｏｒｍｎｍａｌｃａｔｌｏｎ Ｍａｇｚｉｎｅ，１９８９，２７

（１１）：４７－－６４．
Ｋ

Ｊ，Ｗａｉｂｅｌ Ａ Ｈ，，Ｈｉｎｔｏｎ Ｇ Ｅ Ｎｅｔｗｏｒｋｓ，１９９０，３（１）：２３－－４４

Ａ ｔｉｍｅ－ｄｅｌａｙ ｎｅｔｗｏｒｋ ａｒｃｈｉｔｅｃｔｕｒｅ ｆｏｒ ｉｓｏｌａｔｅｄ ｗｏｒｄ ｒｅｃｏｇｎｉｔｉｏｎ．

Ｎｅｕｒａｌ

萬 　 方數(shù)據(jù)

．４６６．

南京大學(xué)學(xué)報（自然科學(xué)）

第３９卷

［４］Ｌｕ ＸＱ，ＬｉＮ，Ｃｈｅｎ
ｔｈｅ ｒｅｃｏｇｎｉｔｉｏｎ ｏｆ ｌｕｎｇ

Ｓ Ｆ．Ｒｅ－ｓｅａｒｃｈ
ｃａ】ｌｃｅｒ

ＯＤ

ａｐｐｌｉｃａｔｉｏｎ

ｏｆｍｏｒｐｈｏｌｏｇｉ＂ｃ０１．ｃｏｌｏｒｆｅａｔｕｒｅｓａｎｄ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｔｏ

ｃａｌｌｓ．Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔｅｒ－ａｉｄｅｄ Ｄｅｓｉｇｎ ａｎｄ Ｃｏｍｐｕｔｅｒ Ｇｒａｐｈｉｃｓ，２００１，１３

（１）：８７～９２（陸新泉．李寧，陳世福．形態(tài)、顏色特征及神經(jīng)網(wǎng)絡(luò)在肺癌細胞識別中的應(yīng)用研究 計算機輔助設(shè)計與圖形學(xué)學(xué)報，２００１，１３（１）：８７～９２） ［５］Ｊｉｍａｇ
Ｙ，Ｚｈｏｕ ｚ Ｈ，Ｘｉｅ

Ｑ，ｅｔ ａ１．Ａｐｐｌｉｃａｔｉｏｎ ０ｆ ｎｅｔｗｏｒｋ ｅｎ．ｓｅｍｂｌｅ ｉｎ ｌｕｎｇ

Ｃａｌｌｃｅｒ

ｃｅｌｌ ｉｄｅｎｔｉｆｉｃａｔｉｏｎ－

Ｊｏｕｒｎａｌ ｏｆＮａｎｊｉｎｇＵｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅｓ），２００１，３７（５）：５２９－５３４．（姜遠，周志華，謝琪等

神經(jīng)網(wǎng)絡(luò)集成在肺癌細胞識別中的應(yīng)用．南京大學(xué)學(xué)報（自然科學(xué)），２００１，３７（５）：５２９－－５３４）． ［６］Ｈｏｍｉｋ
Ｎｅｕｒａｌ Ｋ

Ｍ，Ｓｔｉｎｃｈｃｘ）ｍｂｅ Ｍ，Ｗｈｉｔｅ Ｈ．Ｍｕｌｔｉｌａｙｅｒ ｆｅｅｄｆｏｒｗａｒｄ ｎｅｔｗｏｒｋｓ

０２＂ｅ

ｕｎｉｖｅｒｓａｌ ａｐｐｒｏｘｉｍａｔｏｒｓ

Ｎｅｔｗｏｒｋｓ，１９８９，２（２）：３５９－－３６６
Ｓ Ｌｅａｒｎｉｎｇ ｉｎ ｎｅｔｗｏｒｋｓ ｉｓ

［７］Ｊｕｄｄ Ｊ

ｔｍｒｄ．Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ

ｔｈｅ １ｓｔ ＩＥＥＥ

Ｉｎｔｅｒｎａｔｉｏｎａｌ．Ｃｏｎｔｅｒｅｎｃｅ

Ｏｎ

Ｎｅｕｒａｌ

Ｎｅｔｗｏｒｋｓ．１９８７，２：６８５～６９２

［８］ＢａｕｍＥＢ．Ｈｎｌｄ目Ｄ．Ｗ］�。幔� ｓｉｚｅｎｅｔ西ｖｅｓｖａｌｉｄ ［９］ｚｋ）ｕ
ｚ Ｈ．Ｃｈｅｎ Ｚ

ｇｅｎｅｒａｌｌｚａｆｉｃｔａ？Ｎｅｕｒａｌ｛撕聊ｌ忉婦，１９８９，Ｉ（１）：１５１～１６０
ｔｈｍｒｙ ｈｏｓｅｄ ａｄａｐｔｉｖｅ
ｒｅｓｏｎａｎｃｅ

Ｑ，Ｃｈｅｎ Ｓ Ｆ

Ｒｅｓｅａｒｃｈ ｏｆ ｆｉｄｄ

ｎｅｕｒａｌ ｎｅｔｗｏｒｋ

Ｊｏｕｒｎａｌ ｏｆＮａｎｊｉｎｇＵｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｘａｌ Ｓｃｉｅｎｃｅｓ），２０００，３６，（２）：１４０～１４７（周志華，陳兆乾，陳世福．

基于域理論的自適應(yīng)諧振神經(jīng)網(wǎng)絡(luò)研究南京大學(xué)學(xué)報（自然科學(xué)），２０００，３６（２）：１４０ ［１０ｊ
Ｚｈｏｕ ｚ Ｈ，（；ｈｅｎ Ｓ Ｆ，Ｃｈｅｎ Ｚ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ

１４７）．

Ｑ．Ａ ｓｔａｔｉｓｔｉｃｓ ｂａｓｅｄ ａｐｐｒｏａｃｈ ｆｏｒ ｅｘｔｒａｃｔｉｎｇ ｐｆｉｏｒｋｙ ｒｕｌｅｓ ｆｒｏｍ ｔｒａｉｎｅｄ
ｏｆ ｔｈｅ ＩＥＥＥ－ＩＮＮＳ－ＥＮＮＳ Ｉｎｔｅｒｎａｔｉｏｎａｌ

Ｐｒｏｃｅｅｄｉｎｇｓ

Ｊｏｉｎｔ

Ｇ∞ｆｅｒｅｎｃｅ

Ｏｈ

Ｎｅａｒａｌ

Ｎｅｔｗｏｒｋｓ．Ｉｔａｌｙ：Ｃｏｌｒ『ｌｏ，２０００，３：４０１－－４０６，

１１１ Ｊ

Ｓｃｈａｆｆｅｒ

Ｊ Ｄ．Ｐｒｏｃｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｔｈｉｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ

ｏｎ

Ｇｅｎｅｔｉｃ

Ａｌｇｏｒｉｔｈｍｓ．Ｓａｎ Ｍａｔｅｏ．

ＣＡ：Ｍｏｒｇａｎ ｋａｕｆｍａｎｎ Ｐｕｂｌｉｓｈｅｒｓ，Ｉｎｃ．１９８９．

［１２］Ｂｅｌｅｗ

Ｒ

Ｋ，Ｂｏｏｋｅｒ Ｌ Ｂ．Ｐｒｏｃｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｆｏｕｒｔｈ ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ

ｏｎ

Ｇｅｎｅｔｉｃ Ａｌｇｏｒｉｔｈｍｓ．ｓａｎ

Ｍａｔｅｏ，ＣＡ：Ｍｏｒｇａｎ Ｋａｕｆｎｍｍｌ Ｐｕｂｌｉｓｈｅｒｓ，ｌｎｃ，１９９１．

萬 　 方數(shù)據(jù)

一種基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法及其應(yīng)用
作者： 作者單位： 刊名： 英文刊名： 年，卷(期)： 被引用次數(shù)： 王崇駿， 于汶滌， 陳兆乾， 謝俊元 南京大學(xué)計算機軟件新技術(shù)國家重點實驗室,南京,210093 南京大學(xué)學(xué)報(自然科學(xué)版) JOURNAL OF NANJING UNIVERSITY(NATURAL SCIENCE) 2003，39(5) 14次

參考文獻(12條) 1.Huang W M.Lippmann R P Neural net and traditional classifiers 1988 2.Lippmann R P Pattern classification using neural networks 1989(11) 3.Lang K J.Waibel A H.Hinton G E A time-delay network architecture for isolated word recognition 1990(01) 4.陸新泉.李寧.陳世福 形態(tài)、顏色特征及神經(jīng)網(wǎng)絡(luò)在肺癌細胞識別中的應(yīng)用研究[期刊論文]-計算機輔助設(shè)計與圖 形學(xué)學(xué)報 2001(01) 5.姜遠.周志華.謝琪 神經(jīng)網(wǎng)絡(luò)集成在肺癌細胞識別中的應(yīng)用[期刊論文]-南京大學(xué)學(xué)報(自然科學(xué)版) 2001(05) 6.Hornik K M.Stinchcombe M.White H Multilayer feedforward networks are universal approximators 1989(02) 7.Judd J S Learning in networks is hard 1987 8.Baum E B.Haussler D What size net gives valid generalization? 1989(01) 9.周志華.陳兆乾.陳世福 基于域理論的自適應(yīng)諧振神經(jīng)網(wǎng)絡(luò)研究[期刊論文]-南京大學(xué)學(xué)報(自然科學(xué)版) 2000(02) 10.Zhou Z H.Chen S F.Chen Z Q A statistics based approach for extracting priority rules from trained neural networks 2000 11.Schaffer J D Procceedings of the Third International Conference on Genetic Algorithms 1989 12.Belew R K.Booker L B Procceedings of the Fourth international Conference on Genetic Algorithms 1991

相似文獻(10條) 1.期刊論文 李敏遠.都延麗 基于遺傳算法學(xué)習(xí)的復(fù)合神經(jīng)網(wǎng)絡(luò)自適應(yīng)溫度控制系統(tǒng) -控制理論與應(yīng)用2004,21(2)
針對一類溫度控制系統(tǒng)中存在的非線性和參數(shù)不確定等問題,提出一種復(fù)合神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制結(jié)構(gòu).在控制系統(tǒng)中構(gòu)造了神經(jīng)網(wǎng)絡(luò)正模型來再現(xiàn)被 控對象的動態(tài)特性,用神經(jīng)網(wǎng)絡(luò)控制器實現(xiàn)優(yōu)化控制律的非線性映射.文中選用了被控對象80組歷史數(shù)據(jù)作為樣本集,并利用遺傳算法的全局搜索能力及高 效率來訓(xùn)練多層前向神經(jīng)網(wǎng)絡(luò)的權(quán)系數(shù).最后用升降溫工藝曲線作為輸入對溫度控制系統(tǒng)進行仿真.仿真結(jié)果表明,應(yīng)用遺傳算法能夠提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí) 效率,保證神經(jīng)網(wǎng)絡(luò)全局快速收斂,從而克服了傳統(tǒng)的誤差反傳學(xué)習(xí)算法的一些缺點.證明了采用這種神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制結(jié)構(gòu),使神經(jīng)網(wǎng)絡(luò)控制器的輸出 可以適應(yīng)對象參數(shù)和環(huán)境的變化,使溫度控制系統(tǒng)具有很好的學(xué)習(xí)和自適應(yīng)控制能力,取得了良好的控制效果.

2.學(xué)位論文 王加銀 幾種數(shù)學(xué)方法的神經(jīng)網(wǎng)絡(luò)表示 1999
該文是繼李洪興教授的論文:數(shù)學(xué)神經(jīng)網(wǎng)絡(luò)(1-5)之后,進一步研究數(shù)學(xué)算法的神經(jīng)網(wǎng)絡(luò)可視化.該文著重討論了變論域自適應(yīng)模糊控制器的潛遺傳、 顯遺傳及逐步顯遺傳等算法在單入單出情況下的神經(jīng)網(wǎng)絡(luò)表示;并首次提出了局部神經(jīng)網(wǎng)絡(luò)等概念,將工程學(xué)上處理復(fù)雜系統(tǒng)的方法引入神經(jīng)網(wǎng)絡(luò)的研究 .模糊關(guān)系方程的求解算法解算法的網(wǎng)絡(luò)可視化及動態(tài)學(xué)習(xí)求解;其次,借助非監(jiān)督學(xué)習(xí)算法常用的競爭學(xué)習(xí)算法實現(xiàn)了極小解求解算法的網(wǎng)絡(luò)可視化,并 借助神經(jīng)網(wǎng)絡(luò)的存儲功能進行了極小解的篩選和存儲,最終確定了模糊關(guān)系方程解的結(jié)構(gòu).

3.期刊論文 劉書賢.趙艷霞.李奎明 遺傳算法-神經(jīng)網(wǎng)絡(luò)方法的結(jié)構(gòu)損傷識別 -遼寧工程技術(shù)大學(xué)學(xué)報（自然科學(xué) 版）2004,23(5)
應(yīng)用人工神經(jīng)網(wǎng)絡(luò)技術(shù),提取結(jié)構(gòu)的固有頻率的變化為特征參數(shù),建立結(jié)構(gòu)損傷識別模型,提出用遺傳算法來調(diào)整神經(jīng)網(wǎng)絡(luò)的權(quán)值,并對一個框架模型 進行了損傷數(shù)值模擬計算,即基于遺傳算法-神經(jīng)網(wǎng)絡(luò)方法的結(jié)構(gòu)損傷識別的研究.該方法彌補了傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)BP網(wǎng)絡(luò)收斂速度慢,易陷入局部極小點等 缺陷.結(jié)構(gòu)表明,該方法具有收斂速度快和識別精度高的特點.

4.學(xué)位論文 李享梅 基于混合智能學(xué)習(xí)法神經(jīng)網(wǎng)絡(luò)理論及其應(yīng)用的研究 2004
人工神經(jīng)網(wǎng)絡(luò)和遺傳算法作為人工智能的兩大分支,在近幾年來,無論從理論還是應(yīng)用方面都得到了長足的發(fā)展.由于人工神經(jīng)網(wǎng)絡(luò)中的BP神經(jīng)網(wǎng)絡(luò)結(jié) 構(gòu)簡單,可塑性強,具有良好的自適應(yīng)、自學(xué)習(xí)、極強的非線性逼近、大規(guī)模并行處理和容錯能力等特點,自1986年Rumelhart等人提出以來,被廣泛應(yīng)用于

系統(tǒng)建模、模式識別、地震勘探等重要領(lǐng)域.而BP算法數(shù)學(xué)意義明確,步驟分明,是神經(jīng)網(wǎng)絡(luò)中最為常用、最有效、最活躍的一種方法.該文首先分析了神 經(jīng)網(wǎng)絡(luò)和遺傳算法的發(fā)展和應(yīng)用現(xiàn)狀,以及遺傳算法的基本概念、構(gòu)成要素、運算過程、特點、理論基礎(chǔ)和基本遺傳算法所涉及到的內(nèi)容的研究,并將其 應(yīng)用于優(yōu)化前饋型神經(jīng)網(wǎng)絡(luò)的連接權(quán)問題.其次,研究了人工神經(jīng)元的相關(guān)理論以及人工神經(jīng)網(wǎng)絡(luò)的特征、人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則和BP神經(jīng)網(wǎng)絡(luò)的相關(guān)理 論和性能.第三,針對BP神經(jīng)網(wǎng)絡(luò)局部搜索能力強、全局搜索能力差和基于遺傳算法的神經(jīng)網(wǎng)絡(luò)全局搜索能力強、局部搜索能力差的特點,該文提出了一種 集BP算法和遺傳算法優(yōu)點為一體的混合智能學(xué)習(xí)法,并將其應(yīng)用到優(yōu)化多層前饋型神經(jīng)網(wǎng)絡(luò)連接權(quán)問題.該方法集神經(jīng)網(wǎng)絡(luò)、遺傳算法和BP算法優(yōu)點于一 體,并從理論和實踐兩個方面論證了其可行性和實用性.最后,用VC++語言設(shè)計了BP神經(jīng)網(wǎng)絡(luò)、基于遺傳算法的神經(jīng)網(wǎng)絡(luò)和混合智能學(xué)習(xí)法神經(jīng)網(wǎng)絡(luò)實現(xiàn)和 進行計算機仿真運行程序,并分別將它們應(yīng)用于解決異或、函數(shù)擬合和高分辨率地震資料解釋等問題,從實踐中證明混合智能學(xué)習(xí)法神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng) 絡(luò)和基于遺傳算法的神經(jīng)網(wǎng)絡(luò)相比有更好的運算性能、更快的收斂速度和更高的精度.

5.期刊論文 張慶紅.程國建.ZHANG Qing-hong.CHENG Guo-jian 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)性能優(yōu)化 -計算機技術(shù)與 發(fā)展2007,17(12)
遺傳算法是一種典型的進化算法.文中分析了遺傳算法的特點和神經(jīng)網(wǎng)絡(luò)的特點,從而得出了把兩種算法結(jié)合起來進行應(yīng)用的思想.運用理論對比的方 法,闡明了用遺傳算法進行神經(jīng)網(wǎng)絡(luò)性能優(yōu)化的原因,并得出結(jié)論,認為用遺傳算法進行神經(jīng)網(wǎng)絡(luò)性能優(yōu)化促使了神經(jīng)網(wǎng)絡(luò)更進一步的應(yīng)用.闡述了遺傳算 法優(yōu)化神經(jīng)網(wǎng)絡(luò)的兩種主要方法,論述了遺傳算法和神經(jīng)網(wǎng)絡(luò)的發(fā)展現(xiàn)狀和將來的研究動向.

6.學(xué)位論文 李曄 基于一種改進遺傳算法的神經(jīng)網(wǎng)絡(luò) 2007
隨著時代的發(fā)展，科技的進步被控對象變得越來越復(fù)雜，其過程機理有許多不明之處，致使基于數(shù)學(xué)模型的傳統(tǒng)控制方法難以奏效，因此提出很多 智能控制方法，其中神經(jīng)網(wǎng)絡(luò)控制是解決這些問題的有效途徑，可用來處理不確定性的復(fù)雜系統(tǒng)，神經(jīng)網(wǎng)絡(luò)雖然具有自學(xué)習(xí)能力，但其內(nèi)部機理不很明 確，知識表達困難。針對神經(jīng)網(wǎng)絡(luò)存在的不足，又考慮現(xiàn)在優(yōu)化算法中，遺傳算法具有魯棒性、隨機性、全局性、適于并行處理的優(yōu)點，本文提出用遺 傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)，彌補神經(jīng)網(wǎng)絡(luò)的不足。 遺傳算法是目前應(yīng)用最廣的優(yōu)化搜索算法之一。目前，遺傳算法已經(jīng)在許多領(lǐng)域得到了應(yīng)用，如函數(shù)優(yōu)化、模型優(yōu)化、結(jié)構(gòu)優(yōu)化、工業(yè)生產(chǎn)、圖像 處理等等。但基本遺傳算法易于陷入局部最優(yōu)，在有些時候收斂速度過慢，這使得基本遺傳算法很難找到全局最優(yōu)。如何能夠使遺傳算法盡可能快地跳 出局部最優(yōu)和如何能夠提高遺傳算法的收斂速度，是近年來遺傳算法研究領(lǐng)域的熱點。 本文針對簡單遺傳算法(SGA)應(yīng)用過程中所存在的不易收斂、結(jié)果常常陷入局部最優(yōu)、編碼方式存在解碼誤差、收斂速度慢等缺點，提出使用一種基 于排序選擇的改進遺傳算法，并用其進行智能控制器的參數(shù)尋優(yōu)。遺傳算法的選擇、交叉以及變異，每個環(huán)節(jié)的實現(xiàn)策略的改變都會對整個遺傳算法的 尋優(yōu)性能產(chǎn)生重要影響；而且需要其它環(huán)節(jié)做出相應(yīng)的調(diào)整，才能達到比較理想的提高遺傳算法尋優(yōu)能力的目的�；�于上述原因，提出基于排序選擇的 改進遺傳算法。所謂排序選擇方法是指在計算出每個個體的目標值后，根據(jù)目標值的大小順序?qū)θ后w中的個體進行排序，適應(yīng)度僅取決于排序后的個體 在種群中的位置，并且每個個體的選擇概率等于根據(jù)它所處的位置按某種規(guī)律計算出來的概率。用改進的遺傳算法優(yōu)化調(diào)整神經(jīng)網(wǎng)絡(luò)的權(quán)值，將優(yōu)化所 得參數(shù)作為神經(jīng)網(wǎng)絡(luò)的初始權(quán)值。這種針對神經(jīng)網(wǎng)絡(luò)控制器的結(jié)構(gòu)特點，用遺傳算法訓(xùn)練優(yōu)化網(wǎng)絡(luò)權(quán)重，得到的復(fù)合智能控制器具有很好的特性，既保 留了遺傳算法的強全局隨機搜索能力，又具有神經(jīng)網(wǎng)絡(luò)的魯棒性和自學(xué)習(xí)能力，并且可兼有神經(jīng)網(wǎng)絡(luò)廣泛映射能力和遺傳算法快速全局收斂等性能。 將基于改進遺傳算法的神經(jīng)網(wǎng)絡(luò)控制器用于二級倒立擺系統(tǒng)，通過仿真結(jié)果的研究表明，基于排序選擇的改進遺傳算法在神經(jīng)網(wǎng)絡(luò)權(quán)值尋優(yōu)中，能 夠充分發(fā)揮其全局尋優(yōu)的特點，且能夠很好的彌補BP算法訓(xùn)練時間長，響應(yīng)速度慢的不足。

7.期刊論文 高志剛.李克鵬.李琦 基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的倒立擺控制系統(tǒng) -江西電力職業(yè)技術(shù)學(xué)院學(xué)報 2004,17(3)
以單級倒立擺為對象,介紹了一種融合遺傳算法的神經(jīng)網(wǎng)絡(luò)控制方法.該方法采用以多層前饋神經(jīng)網(wǎng)絡(luò)作為遺傳搜索表示方法的思想,以神經(jīng)網(wǎng)絡(luò)為基 礎(chǔ),用遺傳算法來學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的權(quán)系數(shù),既保留了遺傳算法的強全局隨機搜索能力,又具有神經(jīng)網(wǎng)絡(luò)的魯棒性和自學(xué)習(xí)能力.仿真結(jié)果證明:遺傳算法和神 經(jīng)網(wǎng)絡(luò)的結(jié)合,可兼有神經(jīng)網(wǎng)絡(luò)廣泛映射能力和遺傳算法快速全局收斂等性能.

8.學(xué)位論文 劉春艷 基于遺傳算法-BP神經(jīng)網(wǎng)絡(luò)的主汽溫控制系統(tǒng)的研究 2006
在火力發(fā)電廠中，對主汽溫的控制有較高的要求，但是由于電廠主汽溫是一個典型的具有大遲延、大慣性、非線性及時變性的復(fù)雜系統(tǒng)，利用經(jīng)典 控制理論對主汽溫進行控制存在一些不足。 本文在常規(guī)PID控制的基礎(chǔ)上，提出了采用遺傳算法與BP神經(jīng)網(wǎng)絡(luò)結(jié)合的PID控制策略。該策略采用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)來建立參數(shù)自學(xué)習(xí)的 PID控制系統(tǒng)，從而實現(xiàn)對主汽溫的有效控制。 本文首先對BP神經(jīng)網(wǎng)絡(luò)和遺傳算法的優(yōu)缺點進行了分析；然后把神經(jīng)網(wǎng)絡(luò)和遺傳算法結(jié)合起來，充分利用兩者的優(yōu)點，使新算法既有神經(jīng)網(wǎng)絡(luò)的學(xué) 習(xí)能力和魯棒性，又有遺傳算法的全局隨機搜索能力；最后利用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)對主汽溫控制系統(tǒng)進行設(shè)計，該設(shè)計分為三個方面：第一 ，由于主汽溫為非線性時變系統(tǒng)，所以要先對主汽溫進行辨識，提供給GA-BPNN一個學(xué)習(xí)信號；第二，基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)，根據(jù)辨識系統(tǒng)提供的 學(xué)習(xí)信號調(diào)節(jié)PID控制器的三個可調(diào)節(jié)參數(shù)kp，ki，kd，即通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)、加權(quán)系數(shù)調(diào)整，使神經(jīng)網(wǎng)絡(luò)輸出對應(yīng)于某種最優(yōu)控制規(guī)律下的PID控 制器參數(shù)，其中BP神經(jīng)網(wǎng)絡(luò)采用加動量項法與變步長法結(jié)合起來的BP算法以提高收斂速度，遺傳算法則采用自適應(yīng)變異概率和可變的交叉概率以擴大搜 索空間。第三，PID控制采用經(jīng)典的增量式PID控制。 本文采用MATLAB語言對主汽溫對象進行仿真分析，并在仿真的過程中改變被控對象的參數(shù)來說明該方法的有效性。仿真結(jié)果表明：本文所設(shè)計的基 于遺傳算法-BP神經(jīng)網(wǎng)絡(luò)的PID控制系統(tǒng)具有較好的自適應(yīng)和自學(xué)習(xí)能力，即便是被控對象的參數(shù)發(fā)生較大的變化的情況下，仍能保證系統(tǒng)良好的動、靜 態(tài)特性。

9.會議論文 李曄 基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的二級倒立擺控制系統(tǒng) 2006
本文以二級倒立擺為對象,介紹了一種融合遺傳算法的神經(jīng)網(wǎng)絡(luò)控制方法.該方法采用以多層前饋神經(jīng)網(wǎng)絡(luò)作為遺傳搜索表示方法的思想,以神經(jīng)網(wǎng)絡(luò) 為基礎(chǔ),用遺傳算法來學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的權(quán)系數(shù),既保留了遺傳算法的強全局隨機搜索能力,又具有神經(jīng)網(wǎng)絡(luò)的魯棒性和自學(xué)習(xí)能力.仿真結(jié)果證明:遺傳算法 和神經(jīng)網(wǎng)絡(luò)的結(jié)合,可兼有神經(jīng)網(wǎng)絡(luò)廣泛映射能力和遺傳算法快速全局收斂等性能.

10.學(xué)位論文 吳小許 遺傳算法的改進及結(jié)合神經(jīng)網(wǎng)絡(luò)在制漿過程中的應(yīng)用 2005
隨著當前制漿造紙生產(chǎn)規(guī)模的不斷擴大，紙機車速越來越快，生產(chǎn)工藝要求越來越高，對自動控制的要求也在不斷提高。因此常規(guī)的控制理論及控 制方法，在一定程度上已經(jīng)不能滿足某些制漿造紙過程中對測量及控制的要求。隨著當前控制領(lǐng)域中智能控制算法的不斷發(fā)展，神經(jīng)網(wǎng)絡(luò)算法、仿人智 能控制算法、模糊控制算法、遺傳算法等在過程控制中得到了越來越多的關(guān)注和重視，在實際中的應(yīng)用也越來越廣泛，并解決了不少常規(guī)控制算法無法 解決的問題，具有非常廣泛的應(yīng)用前景。本文在越南平安紙業(yè)年產(chǎn)7.5萬噸白板紙制漿生產(chǎn)線的基礎(chǔ)上，對制漿過程中打漿度的軟測量技術(shù)進行了研究 ，提出了基于改進型遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)對打漿度進行軟測量及控制的方案，并在實際應(yīng)用中取得了非常理想的應(yīng)用效果。 自從McCulloch和Pitts提出MP神經(jīng)元模型以來，神經(jīng)網(wǎng)絡(luò)的研究已有50多年的歷史，走過了一條曲折而不平衡的發(fā)展道路，幾經(jīng)興衰。如今，神經(jīng) 網(wǎng)絡(luò)研究又異軍突起，進入一個新的發(fā)展時期，其應(yīng)用研究幾乎覆蓋了所有的領(lǐng)域。神經(jīng)網(wǎng)絡(luò)最大的特點是它強大的函數(shù)逼近能力、泛化能力及特有的 學(xué)習(xí)功能，而BP神經(jīng)網(wǎng)絡(luò)的出現(xiàn)又解決了神經(jīng)網(wǎng)絡(luò)無法確定其權(quán)值的缺點。其誤差反傳算法的優(yōu)越性和易實現(xiàn)性，使得其在實際過程中得到了非常廣泛 的應(yīng)用。但BP算法本質(zhì)上屬于梯度下降訓(xùn)練算法，而梯度下降算法用來解決非線性優(yōu)化問題有兩個主要缺點：①容易陷入局部極��；②由于依賴于對激 活函數(shù)求導(dǎo)數(shù)，故容易發(fā)生未成熟飽和。針對梯度算法容易陷入局部最小的不足，本文提出了改進型遺傳算法對連接權(quán)值、閾值進行優(yōu)化的方法。 遺傳算法是一種求解問題的高效并行全局搜索方法。在過去的30年中，在解決復(fù)雜的全局優(yōu)化問題方面，遺傳算法已取得了成功的應(yīng)用，并受到了 廣泛的關(guān)注。本文在標準遺傳算法研究的基礎(chǔ)上，提出了遺傳算法的改進型，采用了浮點編碼方式、無重串的穩(wěn)態(tài)繁殖、最優(yōu)保留策略、自適應(yīng)交叉率 和自適應(yīng)變異率、適應(yīng)度函數(shù)的重新標度、多點交叉、分布式遺傳算法等改進方法。同時將BP神經(jīng)網(wǎng)絡(luò)的誤差反傳算法引入到遺傳算法中來，在遺傳算 法中加入了BP算子，增加了遺傳算法在隨機的進化過程中全局收斂的必然性和可靠性。 本文的研究的成果已經(jīng)成功應(yīng)用到越南平安紙業(yè)年產(chǎn)7.5萬噸白板紙制漿生產(chǎn)線中的打漿度在線軟測量和控制中。通過計算機仿真和實際的應(yīng)用效果 可以看出，本文提出的改進型遺傳算法對神經(jīng)網(wǎng)絡(luò)參數(shù)進行優(yōu)化的方法是切實可行的并性能優(yōu)越的，其預(yù)測效果是非常明顯且可靠的。本文所提出的方

法在實際應(yīng)用過程中有著非常廣泛的推廣價值。

引證文獻(14條) 1.姜忠山.宋超.朱飛翔.司維超 遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)在轉(zhuǎn)速PID控制中的應(yīng)用[期刊論文]-兵工自動化 2009(3) 2.張欣悅 遺傳算法在神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[期刊論文]-福建電腦 2008(10) 3.ZHAO Peng-cheng.朱煥勤.MENG Fan-qin.秦勇 基于小波神經(jīng)網(wǎng)絡(luò)的油泵故障診斷[期刊論文]-西南石油大學(xué)學(xué)報 (自然科學(xué)版) 2008(4) 4.王其軍.程久龍 基于免疫神經(jīng)網(wǎng)絡(luò)模型的瓦斯?jié)舛戎悄茴A(yù)測[期刊論文]-煤炭學(xué)報 2008(6) 5.張福平.李堂軍.楊磊 基于遺傳算法優(yōu)化模糊Petri網(wǎng)的掘進工作面瓦斯爆炸事故致因分析[期刊論文]-礦業(yè)安全 與環(huán)保 2008(2) 6.魏茹生.沈冰.吳建華 河道水量還原計算中的遺傳BP人工神經(jīng)網(wǎng)絡(luò)方法[期刊論文]-河海大學(xué)學(xué)報（自然科學(xué)版） 2008(2) 7.商杰.劉明 BP算法的改進及在模式識別中的應(yīng)用[期刊論文]-合肥學(xué)院學(xué)報（自然科學(xué)版） 2007(3) 8.商杰.朱戰(zhàn)立 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)在預(yù)測油管鋼腐蝕速率中的應(yīng)用[期刊論文]-腐蝕科學(xué)與防護技術(shù) 2007(3) 9.秦勇.張永國.趙鵬程 基于免疫神經(jīng)網(wǎng)絡(luò)模型的油氣濃度預(yù)測研究[期刊論文]-自動化與儀表 2006(3) 10.王其軍.程久龍 瓦斯傳感器的故障模式與診斷方法研究[期刊論文]-煤炭科學(xué)技術(shù) 2006(11) 11.陳希.王瑞 基于遺傳神經(jīng)網(wǎng)絡(luò)優(yōu)化調(diào)節(jié)滴灌施肥液pH值[期刊論文]-江蘇農(nóng)業(yè)學(xué)報 2006(4) 12.范睿.李國斌.景韶光 基于實數(shù)編碼遺傳算法的混合神經(jīng)網(wǎng)絡(luò)算法[期刊論文]-計算機仿真 2006(1) 13.趙鵬程.王致杰.孟江.王耀才 基于免疫神經(jīng)網(wǎng)絡(luò)模型的油氣濃度預(yù)測研究[期刊論文]-自動化博覽 2005(3) 14.王東亞 基于自適應(yīng)遺傳人工神經(jīng)網(wǎng)絡(luò)的集中供熱負荷預(yù)測與控制研究[學(xué)位論文]碩士 2005

本文鏈接： 授權(quán)使用：劉小清(wfzjtsg)，授權(quán)號：9ed06613-05c4-430e-a556-9dde0107cdba 下載時間：2010年8月26日



  本文關(guān)鍵詞：一種基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法及其應(yīng)用，由筆耕文化傳播整理發(fā)布。