前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇神經(jīng)網(wǎng)絡(luò)的訓(xùn)練算法范文,相信會(huì)為您的寫作帶來幫助,發(fā)現(xiàn)更多的寫作思路和靈感。
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò); 遺傳算法; 神經(jīng)網(wǎng)絡(luò)集成; 人耳識(shí)別
中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼:B
文章編號(hào):1004-373X(2010)08-0148-03
Application of Neural Network Ensemble Based on Genetic Algorithm in Ear Recognition
CHEN Chun-lan1, ZENG Huang-lin2, XU Li-zhi2
(1. Luzhou Vocational and Technical College, Luzhou 646005, China; 2. Sichuan University of Science & Engineering, Zigong 643000, China)
Abstract:Since the constringency of the BP neural network algorithm is too slow and generalization capability of neural network is not ideal, the disadvantageseffect the classification identification. A method of theneural network ensemble based on the genetic algorithm is introduced for improving the classification accuracy and generalization of neural network, the way which trains several individual BP neural networks, selects those who have great variance each other to perform the neural network ensemble by means of the genetic algorithm, and then carries out the classification identification with the neural network ensemble. The experimental result shows that themethod can improve the identification rate.
Keywords:BP neural network; genetic algorithm; neural network ensemble; ear recognition
傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)雖然具有在線學(xué)習(xí),非線性映射能力,不需要精確的數(shù)學(xué)模型,擅長(zhǎng)從輸入/輸出數(shù)據(jù)中學(xué)習(xí)有用的知識(shí),容易實(shí)現(xiàn)并行計(jì)算,由于神經(jīng)網(wǎng)絡(luò)由大量的簡(jiǎn)單計(jì)算單元組成,因而具有易于用軟、硬件實(shí)現(xiàn)等優(yōu)點(diǎn)。但是該學(xué)習(xí)算法是一個(gè)非線性優(yōu)化問題,存在局部極小;BP算法使用的是最速下降法,學(xué)習(xí)算法的收斂速度很慢;最重要的是網(wǎng)絡(luò)的泛化能力差。當(dāng)圖像數(shù)據(jù)較大時(shí),影響分類識(shí)別能力。1990年,Hansen和Salamon開創(chuàng)性地提出了神經(jīng)網(wǎng)絡(luò)集成(Neural Network Ensemble)方法,通過訓(xùn)練多個(gè)神經(jīng)網(wǎng)絡(luò),并將其結(jié)果進(jìn)行合并,顯著地提高了神經(jīng)網(wǎng)絡(luò)系統(tǒng)的泛化能力[1]。在此,采用Bagging方法訓(xùn)練個(gè)體神經(jīng)網(wǎng)絡(luò),用遺傳算法選擇最優(yōu)的個(gè)體網(wǎng)絡(luò)用于神經(jīng)網(wǎng)絡(luò)集成。實(shí)驗(yàn)表明,這種方法可以提高人耳的識(shí)別率。
1 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)集成
1.1 神經(jīng)網(wǎng)絡(luò)集成
當(dāng)神經(jīng)網(wǎng)絡(luò)集成用于分類器時(shí),通過Bagging算法訓(xùn)練多個(gè)個(gè)體神經(jīng)網(wǎng)絡(luò),通常集成的輸出由個(gè)體網(wǎng)絡(luò)的輸出投票產(chǎn)生,采用絕對(duì)多數(shù)投票法(某分類成為最終結(jié)果,當(dāng)且僅當(dāng)有超過半數(shù)的神經(jīng)網(wǎng)絡(luò)輸出結(jié)果為該分類),提高網(wǎng)絡(luò)的泛化能力和分類能力[1]。Bagging算法思想實(shí)現(xiàn)過程如圖1所示。
圖1 Bagging算法思想實(shí)現(xiàn)過程
Bagging基本思想如下:
(1) 給定一個(gè)弱學(xué)習(xí)算法和一個(gè)訓(xùn)練集;
(2) 單個(gè)弱學(xué)習(xí)算法準(zhǔn)確率不高;
(3) 將該學(xué)習(xí)算法使用多次,得出預(yù)測(cè)函數(shù)序列,進(jìn)行投票;
(4) 最后結(jié)果準(zhǔn)確率將得到提高。
Bagging算法:
For t = 1, 2, …, T;
從數(shù)據(jù)集S中取樣(放回選樣);
訓(xùn)練得到模型Ht;
對(duì)未知樣本X分類時(shí),每個(gè)模型Ht都得出一個(gè)分類,得票最高的即為未知樣本X的分類[1]。
1.2 遺傳算法用于神經(jīng)網(wǎng)絡(luò)集成
當(dāng)神經(jīng)網(wǎng)絡(luò)集成中的個(gè)體網(wǎng)絡(luò)差異較大時(shí),集成的效果較好,但是如何獲得差異較大的個(gè)體網(wǎng)絡(luò)以及如何評(píng)價(jià)多個(gè)網(wǎng)絡(luò)之間的差異度,目前仍然沒有較好的方法。Bagging算法通過訓(xùn)練數(shù)據(jù)的隨機(jī)性及獨(dú)立性來提供集成的差異性,盡管這種方法非常流行,但是他的魯棒性較差,而且當(dāng)數(shù)據(jù)量不足時(shí),該方法的執(zhí)行效果也差[1]。
遺傳算法作為一種可以全局收斂的方法,理論上可以在一定的遺傳步驟后達(dá)到全局或者接近全局最優(yōu)。這里考慮用遺傳算法作為Bagging算法中最終集成權(quán)值的優(yōu)化方法。
假設(shè)已經(jīng)獨(dú)立訓(xùn)練出N個(gè)神經(jīng)網(wǎng)絡(luò)f1,f2,…,fN,使用簡(jiǎn)均方法組成神經(jīng)網(wǎng)絡(luò)集成,考慮去除神經(jīng)網(wǎng)絡(luò)fN后,由f1,f2,…,fN-1使用簡(jiǎn)均方法組成神經(jīng)網(wǎng)絡(luò)集成′,滿足:
ИА(x)=∑N-1i=1\(1)
定義神經(jīng)網(wǎng)絡(luò)fi與fjУ南喙囟任:
Cij=∫p(x)\\dx(2)
有Cii=Ei,Cij=Cj。в捎:
И(x)-d(x)=∑Ni=1\/NИ
因此有:
ИE=∑Ni=1∑Nj=1Cij/N2(3)
考慮У姆夯誤差E與′的泛化誤差E′的大小關(guān)系,根據(jù)式(3),′У姆夯誤差為:
ИE′=∑N-1i=1∑N-1j=1Cij/(N-1)2(4)
(N-1)2N2(E′-E)=(2N-1)∑N-1i=1∑N-1j=1Cij-
2(N-1)2∑N-1i=1CiN-(N-1)2CNN(5)
(2N-1)∑N-1i=1∑N-1j=1Cij
(N-1)2CNN(6)
根據(jù)式(5),當(dāng)式(6)滿足時(shí),E′
使用遺傳算法來解決神經(jīng)網(wǎng)絡(luò)選取的問題。若某遺傳個(gè)體與{f1,f2,…,fN}的子集S相對(duì)應(yīng),假設(shè)驗(yàn)證集為V,用驗(yàn)證集V 計(jì)算的神經(jīng)網(wǎng)絡(luò)fi與fjУ南喙囟裙蘭浦滴:
ИCVij=∑X∈V\\/|V|(7)
從而根據(jù)式(7),與S對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)集成在驗(yàn)證集V上的平均誤差為:
И(∑fi,fj∈SCVij)/|S|2(8)И
將該誤差的倒數(shù)作為遺傳算法的適應(yīng)度值[2]。
2 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)集成用于人耳識(shí)別
采用Carreira-Perpinan建立的人耳圖像庫(如圖2所示部分人耳圖像),該圖像包括了17人,每人6幅,共102幅人耳圖像[3]。由于該人耳圖像庫中的所有圖像已經(jīng)經(jīng)過剪裁和旋轉(zhuǎn),長(zhǎng)寬比例為1∶6(這是由人耳的結(jié)構(gòu)特點(diǎn)決定的,人耳長(zhǎng)寬比例的均值大致在1∶6附近),且進(jìn)行了亮化處理,因此圖像較理想,本文不在進(jìn)行圖像的預(yù)處理。本實(shí)驗(yàn)在Matlab 7.1環(huán)境下進(jìn)行。
圖2 Carreira-Perpinan部分人耳圖像
2.1 融合特征提取
將圖像庫中每人前三幅圖像組成訓(xùn)練樣本集,其余圖像組成測(cè)試樣本集。
采用Zernike矩方法提取的圖像具有旋轉(zhuǎn)不變性的人耳幾何特征,其穩(wěn)定性強(qiáng),有利于分類識(shí)別,但是當(dāng)人耳圖像受到其他因素如光照影響時(shí),這種識(shí)別率就會(huì)降低。改進(jìn)的非負(fù)矩陣分解是將線性判別融入到傳統(tǒng)的非負(fù)矩陣分解方法中,通過最大化樣本類間差異,最小化樣本類內(nèi)差異,提取具有判別能力的低維人耳特征,對(duì)光照等不敏感。將這兩種具有互補(bǔ)性的特征串性融合,得到一個(gè)分類能力更強(qiáng)的特征[4-5]。將15維Zernike矩特征和16維子空間投影系數(shù)特征串行組合,得到一個(gè)31維的人耳特征向量。
2.2 Bagging算法生成個(gè)體網(wǎng)絡(luò)
本文采用Bagging算法生成個(gè)體網(wǎng)絡(luò)(如圖3所示),每次從訓(xùn)練樣本集中隨機(jī)抽取2/3個(gè)樣本進(jìn)行訓(xùn)練,得到一個(gè)神經(jīng)網(wǎng)絡(luò)分類器,神經(jīng)網(wǎng)絡(luò)的輸入是以上提取的31維人耳特征向量。輸出為7維的樣本類別向量(1個(gè)隱層,6個(gè)神經(jīng)元)。神經(jīng)網(wǎng)絡(luò)集成的規(guī)模(訓(xùn)練神經(jīng)網(wǎng)絡(luò)集成中神經(jīng)網(wǎng)絡(luò)的個(gè)數(shù))為10。
圖3 Bagging算法生成個(gè)體神經(jīng)網(wǎng)絡(luò)集成
2.3 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)集成用于人耳識(shí)別
個(gè)體網(wǎng)絡(luò)的選擇:典型的神經(jīng)網(wǎng)絡(luò)集成方法可能生成彼此很相似的個(gè)體神經(jīng)網(wǎng)絡(luò),這種網(wǎng)絡(luò)不一定能夠促使集成泛化誤差的降低,還可能起到相反的作用?;谶z傳算法的神經(jīng)網(wǎng)絡(luò)集成方法從訓(xùn)練好的10個(gè)BP網(wǎng)絡(luò)中選擇部分網(wǎng)絡(luò)進(jìn)行集成。實(shí)驗(yàn)中的參數(shù)設(shè)置:每個(gè)遺傳個(gè)體的染色體長(zhǎng)度為10(網(wǎng)絡(luò)個(gè)數(shù)為10),遺傳算法的群體規(guī)模為40,選擇概率為0.5,交叉概率為0.8,變異概率為0.05,遺傳算法的最大代數(shù)為50代,適應(yīng)度函數(shù)選擇式(8),精英變異位數(shù)量為6,變異范圍是全體個(gè)體。神經(jīng)網(wǎng)絡(luò)的集成,將上步選擇的神經(jīng)網(wǎng)絡(luò)組成集成,采用投票方法進(jìn)行結(jié)果集成。輸入測(cè)試樣本,訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)集成模型進(jìn)行人耳識(shí)別,結(jié)果如表1所示。
表1 神經(jīng)網(wǎng)絡(luò)集成人耳識(shí)別實(shí)驗(yàn)結(jié)果比較
特征單個(gè)BP神經(jīng)網(wǎng)絡(luò)分類識(shí)別/%基于遺傳算法的神經(jīng)網(wǎng)絡(luò)集成分類識(shí)別/%
融合特征88.394.2
從表1可以知道,使用單一BP神經(jīng)網(wǎng)絡(luò)作為分類器的識(shí)別率低于采用神經(jīng)網(wǎng)絡(luò)集成分類的識(shí)別率。
3 結(jié) 語
由于單一BP網(wǎng)絡(luò)的泛化能力差和網(wǎng)絡(luò)的不穩(wěn)定,當(dāng)圖像數(shù)據(jù)較大時(shí),影響分類識(shí)別能力。這里介紹了一種基于遺傳算法的神經(jīng)網(wǎng)絡(luò)集成用于人耳識(shí)別,實(shí)驗(yàn)結(jié)果表明,使用采用神經(jīng)網(wǎng)絡(luò)集成可以提高人耳識(shí)別率。
參考文獻(xiàn)
[1]周志華,陳世福. 神經(jīng)網(wǎng)絡(luò)集成[J]. 計(jì)算機(jī)學(xué)報(bào), 2002, 25(1): 1-8.
[2]吳建鑫,周志華,沈?qū)W華,等. 一種選擇性神經(jīng)網(wǎng)絡(luò)集成構(gòu)造方法[J]. 計(jì)算機(jī)研究與發(fā)展, 2000, 37(9): 1039-1045.
[3]LAMMI H K. Ear biometrics[EB/OL]. \. http: // it. lut. fi/kurssit/03-04/010970000/seminars/Lammi. pdf.
[4]張志偉,夏克文,楊帆,等. 一種改進(jìn)NMF算法及其在人臉識(shí)別中的應(yīng)用[J]. 光電工程, 2007, 34(8): 121-126.
[5]張偉偉, 夏利民. 基于多特征融合和Bagging神經(jīng)網(wǎng)絡(luò)的人耳識(shí)別[J]. 計(jì)算機(jī)應(yīng)用, 2006, 26(8): 1870-1872.
[6]張兆禮,趙春暉,梅曉丹. 現(xiàn)代圖像處理技術(shù)及Matlab實(shí)現(xiàn)[M]. 北京:人民郵電出版社, 2001.
[7]於時(shí)才, 陳涓, 馬寧. 一種提高神經(jīng)網(wǎng)絡(luò)集成系統(tǒng)泛化能力的方法[J]. 微電子學(xué)與計(jì)算機(jī), 2009, 26(4): 105-107.
[8]李敏強(qiáng),寇紀(jì)凇,林丹, 等. 遺傳算法的基本理論與應(yīng)用[M]. 北京:科學(xué)出版社, 2002.
[9]朱人杰,田雨波,賈則. 混沌搜索神經(jīng)網(wǎng)絡(luò)集成求解廣義異或分類問題[J]. 微電子學(xué)與計(jì)算機(jī), 2009, 26(5): 99-102.
[10]劉茂福,胡慧君,何炎祥. 主成分分析在圖像Zernike矩特征降維中的應(yīng)用[J]. 計(jì)算機(jī)應(yīng)用, 2007, 27(3): 696-700.
關(guān)鍵詞:BP算法;神經(jīng)網(wǎng)絡(luò);模型參考自適應(yīng)控制;激勵(lì)函數(shù);Matlab仿真
中圖分類號(hào):TP183
文獻(xiàn)標(biāo)識(shí)碼:A
DOI:10.3969/j.issn.1003-6970.2015.07.024
0 引言
在現(xiàn)代實(shí)際工業(yè)生產(chǎn)中,被控對(duì)象存在各種不確定性和時(shí)變性,因而使得工業(yè)控制過程變得繁瑣復(fù)雜,針對(duì)線性時(shí)變系統(tǒng)或非線性系統(tǒng)的控制,人們不斷的研究其解決方法,Nare ndra等人提出了神經(jīng)網(wǎng)絡(luò)控制和模型參考自適應(yīng)控制相結(jié)合的神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制(Neural Network Model Reference AdaptiveControlˉˉˉNNMRAC)方法。近來神經(jīng)網(wǎng)絡(luò)的研究已成為智能控制研究的熱點(diǎn),因其自身具有自學(xué)習(xí)的特點(diǎn),可以有效地解決不確定和復(fù)雜的非線性控制系統(tǒng)控制問題。因此將神經(jīng)網(wǎng)絡(luò)與模型參考自適應(yīng)控制相結(jié)合,組成基于神經(jīng)網(wǎng)絡(luò)的模型參考自適應(yīng)控制系統(tǒng),進(jìn)而使其在復(fù)雜非線性過程控制中具有不可替代的優(yōu)勢(shì)。目前神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制系統(tǒng)中應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)是BP神經(jīng)網(wǎng)絡(luò)。
BP神經(jīng)網(wǎng)絡(luò)(Back Propagation Network)是一種多層前向型神經(jīng)網(wǎng)絡(luò)也被稱為反向傳播網(wǎng)絡(luò),在BP網(wǎng)絡(luò)中信號(hào)是前向傳播的,而誤差是反向傳播。一般三層BP網(wǎng)絡(luò)結(jié)構(gòu)就可以使其對(duì)有限個(gè)不連續(xù)點(diǎn)的函數(shù)進(jìn)行逼近,也可以逼近任意非線性映射關(guān)系。然而,傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)算法存在很多缺點(diǎn),各種優(yōu)化改進(jìn)的BP算法也層出不窮。就目前的BP優(yōu)化算法,常常忽略算法本身存在的自適應(yīng)、自學(xué)習(xí)等特點(diǎn),改進(jìn)算法如蟻群算法和粒子群算法大都是直接對(duì)BP神經(jīng)網(wǎng)絡(luò)中的參數(shù)進(jìn)行訓(xùn)練。文中采用基于激勵(lì)函數(shù)自尋優(yōu)的方法改進(jìn)BP神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)系統(tǒng)的控制方法,改進(jìn)后的BP神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制方法收斂速度快、精度高,系統(tǒng)控制過程中被控對(duì)象的輸出能夠很好地跟隨參考模型的輸出,具有很好的控制效果,在實(shí)際工程中也可以得到很好的驗(yàn)證和應(yīng)用。
1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其算法改進(jìn)
BP神經(jīng)網(wǎng)絡(luò)已經(jīng)被證明具有很強(qiáng)的學(xué)習(xí)能力,能夠逼近任意連續(xù)有界的非線性函數(shù)。一般的BP神經(jīng)網(wǎng)絡(luò)包括輸入層、隱含層、輸出層,其中隱含層可以有多個(gè)。其中隱含層和輸出層的激勵(lì)函數(shù)通常直接采用Sigmoid函數(shù),其函數(shù)表達(dá)式為:
上式中β稱為Sigmoid函數(shù)的斜率參數(shù),不同的β取值,引起曲線的彎曲程度不同,β越大,f(x)圖形越陡峭。當(dāng)斜率參數(shù)β接近無窮大時(shí),Sigmoid函數(shù)將轉(zhuǎn)化成簡(jiǎn)單的階躍函數(shù)。但與階躍函數(shù)不同,Sigmoid函數(shù)對(duì)應(yīng)于0~1之間的一個(gè)連續(xù)取值區(qū)域,但階躍函數(shù)只對(duì)應(yīng)0和1兩個(gè)取值。
一般的三層前饋神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖1所示。
輸入向量為Xi=(Xl,X2…,Xn)T,i=1,2,…,n,n表示輸入神經(jīng)元的個(gè)數(shù),隱含層的輸出向量為yj= (Y1,y2,…,ym),j=l,2,…,m,輸出層的輸出向量為Ok= (Ol,O2….,ol),k=l,2,…,l。每層之間的權(quán)值用w表示,Wij為隱含層和輸入層之間的權(quán)值,Wjk為輸出層和隱含層之間的權(quán)值。
這里對(duì)上述BP算法的改進(jìn),也就是通過改進(jìn)激勵(lì)函數(shù)f(x),進(jìn)而優(yōu)化神經(jīng)網(wǎng)絡(luò),最終使得基于神經(jīng)網(wǎng)絡(luò)的模型參考自適應(yīng)控制在不增加復(fù)雜性及確保精度的情況下,系統(tǒng)性能進(jìn)一步得到提高改善。由于BP神經(jīng)網(wǎng)絡(luò)產(chǎn)生局部極小值的一個(gè)重要原因就是誤差函數(shù)是一個(gè)以Sigmoid函數(shù)為自變量的非線性函數(shù),而Sigmoid函數(shù)存在飽和區(qū),所以改進(jìn)和優(yōu)化激勵(lì)函數(shù)對(duì)于BP算法的應(yīng)用是至關(guān)重要的。通過實(shí)驗(yàn)發(fā)現(xiàn),在函數(shù)表達(dá)式中增加一個(gè)控制參數(shù)η,可以控制激勵(lì)函數(shù)的壓縮程度。改進(jìn)的激勵(lì)函數(shù)形式如下:
上式描述的f(x)的定義域?yàn)椋?∞,+∞),值域?yàn)椋?,1),函數(shù)也是單調(diào)的,滿足激勵(lì)函數(shù)的條件。
以往出現(xiàn)的改進(jìn)BP算法學(xué)習(xí)過程中,η和β的賦值都是經(jīng)驗(yàn)值,本文使得η是一個(gè)可以自適應(yīng)的參數(shù),就是通過判斷網(wǎng)絡(luò)不斷學(xué)習(xí)過后的權(quán)值能否減小網(wǎng)絡(luò)誤差來自動(dòng)的調(diào)整η的值,其調(diào)整方法為:
其中,al,E為網(wǎng)絡(luò)誤差,f指迭代次數(shù)。在誤差信號(hào)反向傳播時(shí),自適應(yīng)參數(shù)η是隨著誤差信號(hào)不斷進(jìn)行修正的。
此算法可以提高BP網(wǎng)絡(luò)的收斂速度,同時(shí)也避免了陷入局部極小值。文中使其結(jié)合模型模型參考自適應(yīng)控制明顯提高了系統(tǒng)的整體控制效果,進(jìn)一步驗(yàn)證了算法改進(jìn)的實(shí)用性,與傳統(tǒng)BP算法相比,改進(jìn)后的算法在實(shí)際運(yùn)用中更具有意義。
2 神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制系統(tǒng)結(jié)構(gòu)
典型的神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制系統(tǒng)結(jié)構(gòu)如圖2所示。
圖2中NNC( Neural Network Controller)為神經(jīng)網(wǎng)絡(luò)控制器,NNI( Neural Network Identifier)為神經(jīng)網(wǎng)絡(luò)辨識(shí)器,r為參考輸入,u為NNC的輸出,Ym和y分別為參考模型和被控對(duì)象的輸出,ec是參考模型輸出和被控對(duì)象輸出之差,ei是被控對(duì)象輸出和辨識(shí)器輸出之差,NNC的權(quán)值修正目標(biāo)是使ec達(dá)到系統(tǒng)設(shè)定值(理想值為零),NNI的目標(biāo)也是使ei盡可能最?。ɡ硐胫禐榱悖覟镹NC傳遞梯度信息。
神經(jīng)網(wǎng)絡(luò)辨識(shí)器NNI的訓(xùn)練誤差表示為 ,其中,y(k)當(dāng)前k時(shí)刻被控對(duì)象的輸出數(shù)據(jù), 為下一時(shí)刻的預(yù)測(cè)輸出數(shù)據(jù)。則辨識(shí)器的調(diào)整規(guī)則就是使誤差Ei盡可能小,Ei表示為:
神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制系統(tǒng)的控制目標(biāo)在于使被控對(duì)象的輸出y與參考模型的輸出Ym漸近的匹配,即
其中,s為一個(gè)給定的小正數(shù)。
神經(jīng)網(wǎng)絡(luò)控制器NNC的訓(xùn)練則由誤差ec=ym-y來訓(xùn)練,訓(xùn)練準(zhǔn)則如上式(8),控制系統(tǒng)中神經(jīng)網(wǎng)絡(luò)辨識(shí)器和控制器的學(xué)習(xí)算法就采用改進(jìn)后的BP算法。
在神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制系統(tǒng)的控制策略設(shè)計(jì)中,改進(jìn)的BP算法能夠在滿足系統(tǒng)控制規(guī)律符合要求的情況下,使得神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制效果更好。雖然改進(jìn)的BP算法是激勵(lì)函數(shù)自尋優(yōu)的自適應(yīng)方法,不能夠使神經(jīng)網(wǎng)絡(luò)辨識(shí)器NNI進(jìn)行離線訓(xùn)練,但是快速的BP算法仍然可以使網(wǎng)絡(luò)具有很好的實(shí)時(shí)性。首先在線訓(xùn)練辨識(shí)器,待參數(shù)訓(xùn)練好以后,再進(jìn)行控制器NNC的訓(xùn)練,最終可以保證被控對(duì)象的輸出y很好的跟蹤參考模型的輸出Y。
3 仿真實(shí)例研究
3.1 改進(jìn)的BP算法驗(yàn)證
本文采用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)控制來驗(yàn)證改進(jìn)算法的有效性。利用簡(jiǎn)單的一組樣本訓(xùn)練集和樣本目標(biāo)集進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,再給定一組輸入樣本數(shù)據(jù),觀測(cè)輸出層輸出數(shù)據(jù)和誤差。分析樣本數(shù)據(jù)設(shè)計(jì)BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為3個(gè)輸入、2個(gè)輸出、隱含層的神經(jīng)元數(shù)目為8。網(wǎng)絡(luò)學(xué)習(xí)次數(shù)為100次,目標(biāo)誤差設(shè)置為0.001。
使用MATLAB軟件進(jìn)行網(wǎng)絡(luò)訓(xùn)練,傳統(tǒng)BP算法的網(wǎng)絡(luò)訓(xùn)練過程收斂情況如圖3所示,經(jīng)過56步循環(huán)達(dá)到了網(wǎng)絡(luò)誤差要求的精度。改進(jìn)的BP算法網(wǎng)絡(luò)收斂情況如圖4所示,僅需要10步就達(dá)到了誤差精度要求,其中a和b取值分別為0.9和1.5。輸出誤差和網(wǎng)絡(luò)實(shí)際輸出數(shù)據(jù)在表1中展示,直觀的看出,改進(jìn)后的BP網(wǎng)絡(luò)可以得到更有效的輸出。
根據(jù)得到的誤差收斂曲線比較看出,改進(jìn)后的BP算法所用訓(xùn)練步數(shù)少即需要的訓(xùn)練時(shí)間少,說明收斂速度明顯加快。
測(cè)試輸出結(jié)果如表1所示。
從表中可以直觀清晰看出改進(jìn)后的BP算法實(shí)際輸出誤差明顯減小,提高了算法精度。
3.2 改進(jìn)的神經(jīng)網(wǎng)絡(luò)模型參考自適應(yīng)控制仿真實(shí)例
結(jié)合參考文獻(xiàn)中提到的污水處理的例子進(jìn)行改進(jìn)算法的驗(yàn)證。污水處理系統(tǒng)結(jié)構(gòu)圖如圖5所示,
在污水處理系統(tǒng)控制結(jié)果是否達(dá)標(biāo),主要是通過需氧量(OD)、溶解氧(DO)等幾個(gè)重要參數(shù)來衡量。本例中為了提高污水處理效果,系統(tǒng)控制目標(biāo)設(shè)置為使誤差ec控制在±0.05mg/L以內(nèi),污水處理控制系統(tǒng)中采
用離散的參考模型:
ym(k)= 0.375 ym(k-1)+0.623r(k)
其中,控制輸入r(k)=2為系統(tǒng)給定的階躍信號(hào)。
污水處理系統(tǒng)的實(shí)驗(yàn)仿真中,BP網(wǎng)絡(luò)辨識(shí)器設(shè)定4個(gè)輸入變量和1個(gè)輸出變量,隱含層包含10個(gè)隱節(jié)點(diǎn),對(duì)于BP網(wǎng)絡(luò)控制器取3個(gè)輸入層節(jié)點(diǎn),隱含層的節(jié)點(diǎn)數(shù)為6。根據(jù)BP神經(jīng)網(wǎng)絡(luò)控制器和辨識(shí)器的改進(jìn)算法,采用MATLAB進(jìn)行仿真,取采樣周期ts=0.OOls,這里a取0.8,6取1.5,仿真結(jié)果如圖6所示。
在圖6 (a)中第一條線為控制輸入r,中間的第二條曲線代表參考模型的輸出Ym,最下邊的曲線代表污水被控對(duì)象的輸出y,圖6 (b)中的曲線代表誤差ec(系統(tǒng)實(shí)際輸出與參考模型輸出之差)的變化。從圖中可以分析看出,改進(jìn)后模型參考自適應(yīng)控制方法在該控制系統(tǒng)中的控制效果很好,氧的溶解濃度(DO)保持在2mg/L左右,參考輸出和實(shí)際輸出最終相吻合,誤差ec控制在±0.05mg/L以內(nèi),因此仿真結(jié)果滿足控制系統(tǒng)的控制要求。
[關(guān)鍵詞]小生境遺傳算法神經(jīng)網(wǎng)絡(luò)股票預(yù)測(cè)
一、引言
股票和股票市場(chǎng)對(duì)國(guó)家企業(yè)的經(jīng)濟(jì)發(fā)展起到了積極的作用,如可以為投資者開拓投資渠道,增強(qiáng)投資的流動(dòng)性和靈活性等。但股票價(jià)格的形成機(jī)制是頗為復(fù)雜的,股票價(jià)格既受到多種因素,諸如:政治,經(jīng)濟(jì),市場(chǎng)因素的影響,亦受技術(shù)和投資者行為因素的影響,個(gè)別因素的波動(dòng)作用都可能會(huì)影響到股票價(jià)格的劇烈波動(dòng)。因此,股票價(jià)格和各影響因素之間很難直接建立明確的函數(shù)關(guān)系表達(dá)式。針對(duì)這一情況,將可有效處理非線性問題的神經(jīng)網(wǎng)絡(luò)引入到股票價(jià)格的預(yù)測(cè)中來,但神經(jīng)網(wǎng)絡(luò)收斂慢,易陷入局部極小點(diǎn),出現(xiàn)振蕩,魯棒性差。所以有的學(xué)者用遺傳算法(GA)來優(yōu)化神經(jīng)網(wǎng)絡(luò),這種神經(jīng)網(wǎng)絡(luò)可能獲得個(gè)別的甚至局部的最優(yōu)解,即GA早熟現(xiàn)象。本文引進(jìn)能較有效地保持種群多樣性的小生境遺傳算法(NGA),采用NGA優(yōu)化與用GA優(yōu)化的BP網(wǎng)絡(luò)權(quán)值進(jìn)行對(duì)比,證實(shí)了NGA的判別準(zhǔn)確性和尋優(yōu)能力。
二、小生境遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)
1.BP神經(jīng)網(wǎng)絡(luò)
反向傳播(BP)算法又稱為誤差逆?zhèn)鞑バU椒?,它?974年P(guān).Werbos(哈佛大學(xué))提出的。BP算法用來訓(xùn)練多層前饋神經(jīng)網(wǎng)絡(luò),屬于監(jiān)督學(xué)習(xí)算法。BP網(wǎng)絡(luò)具有結(jié)構(gòu)清晰,易實(shí)現(xiàn),計(jì)算功能強(qiáng)大等特點(diǎn)。因而是目前最常見,使用最廣泛的一種神經(jīng)網(wǎng)絡(luò)。但是在實(shí)際應(yīng)用中,傳統(tǒng)的BP算法存在以下問題:收斂速度慢;若加快收斂速度易產(chǎn)生振蕩;存在局部極小和平臺(tái)問題;泛化能力差;隱節(jié)點(diǎn)數(shù)和初始值的選取缺乏理論指導(dǎo);未考慮樣本選擇對(duì)系統(tǒng)學(xué)習(xí)的影響等。所以很多學(xué)者提出許多改進(jìn)的方法,用小生境遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的神經(jīng)網(wǎng)絡(luò)來預(yù)測(cè)股票價(jià)格。
2.小生境遺傳算法
小生境遺傳算法(IcheGeneticalGorihm)的基本思想是:首先比較任意兩個(gè)個(gè)體間的距離與給定值的大小,若該距離小于給定值,則比較其適應(yīng)值大小。對(duì)適應(yīng)值較小的個(gè)體施加一個(gè)較強(qiáng)的懲罰,極大地降低其適應(yīng)值。也就是說,在距離L內(nèi)將只有一個(gè)優(yōu)良個(gè)體,從而既維護(hù)了群體的多樣性,又使得各個(gè)體之間保持一定的距離,并使得個(gè)體能夠在整個(gè)約束空間中分散開來。
3.神經(jīng)網(wǎng)絡(luò)連接權(quán)的優(yōu)化
用小生境遺傳算法可以優(yōu)化神經(jīng)網(wǎng)絡(luò)連接權(quán),神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),學(xué)習(xí)規(guī)則等,這里我們對(duì)神經(jīng)網(wǎng)絡(luò)的連接權(quán)進(jìn)行優(yōu)化,具體步驟如下:
(1)隨機(jī)產(chǎn)生一組權(quán)值分布,采用某種編碼方案對(duì)該組中的每個(gè)權(quán)值(或閾值)進(jìn)行編碼,進(jìn)而構(gòu)造出一個(gè)碼串(每個(gè)碼串代表網(wǎng)絡(luò)的一種權(quán)值分布),在網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)規(guī)則已確定的前提下,該碼串就對(duì)應(yīng)一個(gè)權(quán)值和閾值取特定值的一個(gè)神經(jīng)網(wǎng)絡(luò)。
(2)對(duì)所產(chǎn)生的神經(jīng)網(wǎng)絡(luò)計(jì)算它的誤差函數(shù),從而確定其適應(yīng)度函數(shù)值,誤差越大,則適應(yīng)度越小。
(3)選擇若干適應(yīng)度函數(shù)值最大的個(gè)體,直接遺傳給下一代。
(4)利用交叉和變異等遺傳操作算子對(duì)當(dāng)前一代群體進(jìn)行處理,產(chǎn)生下一代群體。
(5)重復(fù)(2)(3)(4),使初始確定的一組權(quán)值分布得到不斷地進(jìn)化,直到訓(xùn)練目標(biāo)得到滿足為止。
這種由小生境遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法也可以稱做混和訓(xùn)練法。將基于小生境遺傳算法的遺傳進(jìn)化方法和基于梯度下降的反傳訓(xùn)練相結(jié)合,這種訓(xùn)練方法吸取兩種方法的各自特點(diǎn),所以收斂速度快。
三、股票價(jià)格預(yù)測(cè)仿真
根據(jù)經(jīng)驗(yàn)選取輸入預(yù)測(cè)日前四天開盤價(jià)、收盤價(jià)歸一化后做為作為輸入量,輸出為第五天收盤價(jià)歸一化數(shù)值。所以,本文采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為(8,5,1),即網(wǎng)絡(luò)的輸入層6個(gè)節(jié)點(diǎn),隱含層9個(gè)節(jié)點(diǎn),輸出層1個(gè)節(jié)點(diǎn)。本文選擇了“XDG新梅(600732)”從2006年3月14日到2006年7月1日數(shù)據(jù)進(jìn)行了仿真。利用MATLAB6.5編程,取70組訓(xùn)練樣本和30組測(cè)試樣本。如圖(1)表示用遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行優(yōu)化時(shí),誤差曲線變化;從圖中可以看出,小生境遺傳算法收斂速度要快;圖(2)表示股票預(yù)測(cè)值和實(shí)際值比較,從圖中可以看出,遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值的模型進(jìn)行股票價(jià)格的預(yù)測(cè),都能預(yù)測(cè)出股票走向趨勢(shì),但是,后者的預(yù)測(cè)精度顯然要比前者高。
四、結(jié)束語
股票市場(chǎng)的不確定因素太多,股票的價(jià)格更是多種因素影響的集合體,是典型的非線性動(dòng)力學(xué)問題。股票價(jià)格的中長(zhǎng)期準(zhǔn)確預(yù)測(cè)很難。本文建立了用小生境遺傳算來優(yōu)化神經(jīng)網(wǎng)絡(luò)模型來預(yù)測(cè)股票價(jià)格,結(jié)果表明,這種方法比單用遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)收斂速度快,預(yù)測(cè)精度高。對(duì)于股票價(jià)格預(yù)測(cè)具有較好的應(yīng)用價(jià)值。
參考文獻(xiàn):
[1]龍建成李小平:基于神經(jīng)網(wǎng)絡(luò)的股票市場(chǎng)趨勢(shì)預(yù)測(cè)[J].西安電子科技大學(xué)學(xué)報(bào)(自然科學(xué)版.2005.3(32):460-463
[2]王波張鳳玲:神經(jīng)網(wǎng)絡(luò)與時(shí)間序列模型在股票預(yù)測(cè)中的比較[J].第27卷第6期武漢理工大學(xué)學(xué)報(bào)·信息與管理工程版.2005.9(27):69-72
關(guān)鍵字 :神經(jīng)網(wǎng)絡(luò),BP模型,預(yù)測(cè)
中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼: A
1 引言
在系統(tǒng)建模、辨識(shí)和預(yù)測(cè)中,對(duì)于線性系統(tǒng),在頻域,傳遞函數(shù)矩陣可以很好地表達(dá)系統(tǒng)的黑箱式輸入輸出模型;在時(shí)域,Box-Jenkins方法、回歸分析方法、ARMA模型等,通過各種參數(shù)估計(jì)方法也可以給出描述。對(duì)于非線性時(shí)間序列預(yù)測(cè)系統(tǒng),雙線性模型、門限自回歸模型、ARCH模型都需要在對(duì)數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對(duì)序列間關(guān)系進(jìn)行假定??梢哉f傳統(tǒng)的非線性系統(tǒng)預(yù)測(cè),在理論研究和實(shí)際應(yīng)用方面,都存在極大的困難。相比之下,神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4,6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性,與各種預(yù)測(cè)方法有機(jī)結(jié)合具有很好的發(fā)展前景,也給預(yù)測(cè)系統(tǒng)帶來了新的方向與突破。建模算法和預(yù)測(cè)系統(tǒng)的穩(wěn)定性、動(dòng)態(tài)性等研究成為當(dāng)今熱點(diǎn)問題。目前在系統(tǒng)建模與預(yù)測(cè)中,應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò),這主要是因?yàn)檫@種網(wǎng)絡(luò)具有通過學(xué)習(xí)逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型,本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力,通過學(xué)習(xí)獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實(shí)際應(yīng)用中,需要建模和預(yù)測(cè)的多為非線性動(dòng)態(tài)系統(tǒng),利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次,即預(yù)先確定系統(tǒng)的模型,這一點(diǎn)非常難做到。近來,有關(guān)基于動(dòng)態(tài)網(wǎng)絡(luò)的建模和預(yù)測(cè)的研究,代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測(cè)新的發(fā)展方向。
2 BP神經(jīng)網(wǎng)絡(luò)模型
BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法,也就是Widrow-Hoff算法?,F(xiàn)在有許多基本的優(yōu)化算法,例如變尺度算法和牛頓算法。如圖1所示,BP神經(jīng)網(wǎng)絡(luò)包括以下單元:①處理單元(神經(jīng)元)(圖中用圓圈表示),即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重,隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計(jì)算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來,其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值,它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元,通常為非線性函數(shù)。
圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.1 基本算法
BP算法主要包含4步,分為向前傳播和向后傳播兩個(gè)階段:
1)向前傳播階段
(1)從樣本集中取一個(gè)樣本(Xp,Yp),將Xp輸入網(wǎng)絡(luò);
(2)計(jì)算相應(yīng)的實(shí)際輸出Op
在此階段,信息從輸入層經(jīng)過逐級(jí)的變換,傳送到輸出層。這個(gè)過程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運(yùn)行時(shí)的執(zhí)行過程。
2)向后傳播階段
(1)計(jì)算實(shí)際輸出Op與相應(yīng)的理想輸出Yp的差;
(2)按極小化誤差的方式調(diào)整權(quán)矩陣。
這兩個(gè)階段的工作受到精度要求的控制,在這里取 作為網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度,而將網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度定義為 。圖2是基本BP算法的流程圖。
圖2 BP基本算法流程
2.2 動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法
在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量,這些訓(xùn)練算法可以確定一個(gè)ANN結(jié)構(gòu),它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值(包括聯(lián)接權(quán)值和結(jié)點(diǎn)轉(zhuǎn)換函數(shù))。在自動(dòng)設(shè)計(jì)ANN結(jié)構(gòu)方面,也已有較多的嘗試,比如構(gòu)造性算法和剪枝算法。前一種是先隨機(jī)化網(wǎng)絡(luò),然后在訓(xùn)練過程中有必要地增加新的層和結(jié)點(diǎn);而剪枝法則正好相反。文獻(xiàn)[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念,并把EP算法與BP進(jìn)行了組合演化;也有很多學(xué)者把遺傳算法和BP進(jìn)行結(jié)合,但這些算法都以時(shí)間復(fù)雜度以及空間復(fù)雜度的增加為代價(jià)。根據(jù)Kolmogorov定理,對(duì)于任意給定的L2型連續(xù)函數(shù)f: [ 0, 1 ]n Rm , f可以精確地用一個(gè)三層前向神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn),因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點(diǎn)數(shù)而不影響演化結(jié)果?;诖?,在BP原有算法的基礎(chǔ)上,增加結(jié)點(diǎn)數(shù)演化因子,然后記錄每層因子各異時(shí)演化出的結(jié)構(gòu),最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu),這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實(shí)驗(yàn)得知,不同的預(yù)測(cè)精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點(diǎn)數(shù),所以可根據(jù)要求動(dòng)態(tài)地建立預(yù)測(cè)系統(tǒng)。具體步驟如下:
(1)將輸入向量和目標(biāo)向量進(jìn)行歸一化處理。
(2)讀取輸入向量、目標(biāo)向量,記錄輸入維數(shù)m、輸出層結(jié)點(diǎn)數(shù)n。
(3)當(dāng)訓(xùn)練集確定之后,輸入層結(jié)點(diǎn)數(shù)和輸出層結(jié)點(diǎn)數(shù)隨之而確定,首先遇到的一個(gè)十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點(diǎn)數(shù)和隱層數(shù)。實(shí)驗(yàn)表明,如果隱層結(jié)點(diǎn)數(shù)過少,網(wǎng)絡(luò)不能具有必要的學(xué)習(xí)能力和信息處理能力。反之,若過多,不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性(這一點(diǎn)對(duì)硬件實(shí)現(xiàn)的網(wǎng)絡(luò)尤其重要),網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點(diǎn),而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度變得很慢。隱層結(jié)點(diǎn)數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點(diǎn)數(shù)s與模式數(shù)N的關(guān)系是:s=log2N;Kolmogorov定理表明,隱層結(jié)點(diǎn)數(shù)s=2n+1(n為輸入層結(jié)點(diǎn)數(shù));而根據(jù)文獻(xiàn)[7]:s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51[7]。
(4)設(shè)置結(jié)點(diǎn)數(shù)演化因子a。為了快速建立網(wǎng)絡(luò),可以對(duì)其向量初始化,
并從小到大排序[4,7]。
(5)建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig,輸出層用logsig,訓(xùn)練函數(shù)采用動(dòng)態(tài)自適應(yīng)BP算法,并制訂停止準(zhǔn)則:目標(biāo)誤差精度以及訓(xùn)練代數(shù)。
(6)初始化網(wǎng)絡(luò)。
(7)訓(xùn)練網(wǎng)絡(luò)直到滿足停止判斷準(zhǔn)則。
(8)用測(cè)試向量對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè),并記錄誤差和逼近曲線,評(píng)估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。
(9)轉(zhuǎn)到(5),選取下一個(gè)演化因子,動(dòng)態(tài)增加隱含層結(jié)點(diǎn)數(shù),直到最后得到最佳預(yù)測(cè)網(wǎng)絡(luò)。
3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)原理[4]
3.1 正向建模
正向建模是指訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)表達(dá)系統(tǒng)正向動(dòng)態(tài)的過程,這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型,其結(jié)構(gòu)如圖3所示。其中,神經(jīng)網(wǎng)絡(luò)與待辨識(shí)的系統(tǒng)并聯(lián),兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號(hào)。顯然,這是一個(gè)典型的有導(dǎo)師學(xué)習(xí)問題,實(shí)際系統(tǒng)作為教師,向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當(dāng)系統(tǒng)是被控對(duì)象或傳統(tǒng)控制器時(shí),神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式,可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當(dāng)系統(tǒng)為性能評(píng)價(jià)器時(shí),則可選擇再勵(lì)學(xué)習(xí)算法,這時(shí)網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)(如多層感知器),也可選用具有局部逼近能力的網(wǎng)絡(luò)(如小腦模型控制器等)。
圖3 正向建模結(jié)構(gòu)
3.2 逆向建模
建立動(dòng)態(tài)系統(tǒng)的逆模型,在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用,并且得到了廣泛的應(yīng)用。其中,比較簡(jiǎn)單的是直接逆建模法,也稱為廣義逆學(xué)習(xí)。其結(jié)構(gòu)如圖4所示,擬預(yù)報(bào)的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入,網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較,相應(yīng)的輸入誤差用于訓(xùn)練,因而網(wǎng)絡(luò)將通過學(xué)習(xí)建立系統(tǒng)的逆模型。但是,如果所辨識(shí)的非線性系統(tǒng)是不可逆的,利用上述方法將得到一個(gè)不正確的逆模型。因此,在建立系統(tǒng)時(shí),可逆性應(yīng)該先有所保證。
圖4 直接逆建模結(jié)構(gòu)
4 應(yīng)用實(shí)例分析
以我國(guó)西南某地震常發(fā)地區(qū)的地震資料作為樣本來源,實(shí)現(xiàn)基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的地震預(yù)報(bào)。根據(jù)資料,提取出7個(gè)預(yù)報(bào)因子和實(shí)際發(fā)生的震級(jí)M作為輸入和目標(biāo)向量。預(yù)報(bào)因子為半年內(nèi)M>=3的地震累計(jì)頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個(gè)數(shù)、地震條帶個(gè)數(shù)、是否處于活動(dòng)期內(nèi)以及相關(guān)地震區(qū)地震級(jí)。在訓(xùn)練前,對(duì)數(shù)據(jù)進(jìn)行歸一化處理。由于輸入樣本為7維的輸入向量,一般情況下輸入層設(shè)7個(gè)神經(jīng)元。根據(jù)實(shí)際情況,輸出層神經(jīng)元個(gè)數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù),輸出層也可以動(dòng)態(tài)選擇傳遞函數(shù)。實(shí)例數(shù)據(jù)來自文獻(xiàn)[4],將數(shù)據(jù)集分為訓(xùn)練集、測(cè)試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓(xùn)練向量,第一個(gè)7表示預(yù)報(bào)因子數(shù),第二個(gè)7表示樣本數(shù)。
表1 歸一化后的訓(xùn)練向量
在不同神經(jīng)元數(shù)情況下,對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和仿真,得到如圖5所示的一組預(yù)測(cè)誤差曲線。其中,曲線A表示隱層結(jié)點(diǎn)數(shù)為6時(shí)的預(yù)測(cè)誤差曲線,曲線B表示隱含層結(jié)點(diǎn)數(shù)為3時(shí)的預(yù)測(cè)誤差曲線,曲線C表示隱含層結(jié)點(diǎn)數(shù)為5時(shí)的預(yù)測(cè)誤差曲線,曲線D表示隱含層結(jié)點(diǎn)數(shù)為4時(shí)的預(yù)測(cè)誤差曲線。將五種情況下的誤差進(jìn)行對(duì)比,曲線C表示的網(wǎng)絡(luò)預(yù)測(cè)性能最好,其隱含層神經(jīng)元數(shù)為5,圖中曲線E表示的是隱含層結(jié)點(diǎn)數(shù)為15時(shí)的預(yù)測(cè)誤差曲線(文獻(xiàn)[4]中的最好結(jié)果)。同時(shí)也證明,在設(shè)計(jì)BP網(wǎng)絡(luò)時(shí),不能無限制地增加層神經(jīng)元的個(gè)數(shù)。若過多,不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性,網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點(diǎn),而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度、預(yù)測(cè)速度變得很慢。
圖5 不同神經(jīng)元數(shù)預(yù)測(cè)誤差對(duì)比曲線
5 結(jié)論
本文針對(duì)基本的BP神經(jīng)網(wǎng)絡(luò),提出了可動(dòng)態(tài)改變神經(jīng)元數(shù)(與精度相關(guān))的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法,可以根據(jù)實(shí)際情況建立預(yù)測(cè)系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò),不會(huì)有多余的神經(jīng)元,也不會(huì)讓網(wǎng)絡(luò)在學(xué)習(xí)過程中過早陷于局部極小點(diǎn)。
參考文獻(xiàn)
[1]潘正君,康立山,陳毓屏. 演化計(jì)算[M ]. 北京:清華大學(xué)出版社,1998
[2]飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與實(shí)現(xiàn). 北京:電子工業(yè)出版社,2005
[3]蔡曉芬,方建斌. 演化神經(jīng)網(wǎng)絡(luò)算法. 江漢大學(xué)學(xué)報(bào),第33卷第3期,2005.9
[關(guān)鍵詞]BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策
一、引言
采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù),以其較強(qiáng)的計(jì)算性和學(xué)習(xí)性,現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入,農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補(bǔ)傳統(tǒng)方法的不足,現(xiàn)已成為實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個(gè)重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個(gè)環(huán)節(jié)得到廣泛的應(yīng)用,從作物營(yíng)養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測(cè)到產(chǎn)品分級(jí),顯示了巨大的潛力,并正以很快的速度與生產(chǎn)實(shí)際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò),可通過學(xué)習(xí)以任意精度逼近任何連續(xù)映射,在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。
BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對(duì)生物神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)化和模擬的一種信息處理系統(tǒng),具有很強(qiáng)的信息存貯能力和計(jì)算能力,屬于一種非經(jīng)典的數(shù)值算法。通??煞譃榍跋蛏窠?jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò),可通過連續(xù)不斷的在相對(duì)于誤差函數(shù)斜率下降的方向上計(jì)算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值,每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比,并以反向傳播的方式傳遞到每一層,從而實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示,BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有一層,中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點(diǎn)之間沒有連接。每個(gè)網(wǎng)絡(luò)結(jié)點(diǎn)表示一個(gè)神經(jīng)元,其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射,對(duì)于樣本輸入和輸出,可以認(rèn)為存在某一映射函數(shù)g,使得y0=g(xi),i=1,2,3,…,m,其中m為樣本數(shù),xi為輸入樣本,yo為輸出結(jié)果。
BP神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著優(yōu)點(diǎn)就是其可進(jìn)行自學(xué)習(xí),能夠通過訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過程由正向傳播和反向傳播組成,神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層,此為正向傳播過程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差,則轉(zhuǎn)入反向傳播過程。神經(jīng)網(wǎng)絡(luò)通過對(duì)輸入值和希望的輸出值(教師值)進(jìn)行比較,根據(jù)兩者之間的差的函數(shù)來調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個(gè)神經(jīng)元的閾值,最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過程是由后向前進(jìn)行的,稱為誤差反向傳播BP算法。具體學(xué)習(xí)過程如下:
(1)隨機(jī)給各個(gè)權(quán)值賦一個(gè)初始權(quán)值,要求各個(gè)權(quán)值互不相等,且均為較小的非零數(shù)。
(2)輸入樣本集中每一個(gè)樣本值,確定相應(yīng)的網(wǎng)絡(luò)實(shí)際輸出值。
(3)計(jì)算實(shí)際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。
(4)按極小誤差方式調(diào)整權(quán)值矩陣。
(5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個(gè)較小的值,若小于,則跳出運(yùn)算,此時(shí)的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果;若大于,則繼續(xù)計(jì)算。
(6)判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù),若小于,返回(2);若大于,則中止運(yùn)算,其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。
上述的計(jì)算過程循環(huán)進(jìn)行,直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。
二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用
1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用
農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大,用產(chǎn)生式規(guī)則完整描述實(shí)際系統(tǒng),可能會(huì)因組合規(guī)則過多而無法實(shí)現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著的優(yōu)點(diǎn)就是其具有較強(qiáng)的自學(xué)習(xí)、自適應(yīng)、自組織能力,通過對(duì)有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對(duì)象的內(nèi)在規(guī)律,從而可以在一定程度上克服上述信息量大的問題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長(zhǎng)過程中對(duì)農(nóng)作物生長(zhǎng)需求進(jìn)行預(yù)測(cè),從而通過對(duì)養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長(zhǎng)狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法的主要思想可描述為:(1)收集一定規(guī)模的樣本集,采用BP算法進(jìn)行訓(xùn)練,使網(wǎng)絡(luò)收斂到預(yù)定的精度;(2)將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲(chǔ)介質(zhì)中,例如文本文件或數(shù)據(jù)庫中;(3)對(duì)于待預(yù)測(cè)數(shù)據(jù)的輸入部分,從存儲(chǔ)介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣,然后通過BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計(jì)算網(wǎng)絡(luò)輸出,輸出結(jié)果既是預(yù)測(cè)出來的數(shù)值向量。如霍再林等針對(duì)油葵不同階段的相對(duì)土壤含鹽濃度對(duì)其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象,以油葵的6個(gè)成長(zhǎng)階段的土壤溶液含鹽的相對(duì)濃度為輸入樣本,相對(duì)產(chǎn)量為輸出樣本,通過比較發(fā)現(xiàn),訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測(cè)油葵產(chǎn)量,采用此方法可補(bǔ)充傳統(tǒng)模型的不足,為今后進(jìn)一步的研究開辟了新路。
在農(nóng)業(yè)決策方面,主要將農(nóng)業(yè)專家面對(duì)各種問題時(shí)所采取的方法的經(jīng)驗(yàn),作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本,從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補(bǔ)了傳統(tǒng)方法的不足,將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對(duì)傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點(diǎn),利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點(diǎn),將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時(shí)的田間宏觀表現(xiàn),葉部、莖部、果實(shí)癥狀及引起缺素的原因這五個(gè)方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量,將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量,將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實(shí)際應(yīng)用表明此系統(tǒng)自動(dòng)診斷的結(jié)果與專家現(xiàn)場(chǎng)診斷的結(jié)果基本一致,從而采用該系統(tǒng)能夠取代專家,實(shí)現(xiàn)作物的自我診斷,為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對(duì)于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問題,基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò),建立了施肥決策模型,應(yīng)用表明,在有限的范圍內(nèi),模型預(yù)測(cè)結(jié)果較為合理,可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中,以莜麥播種方式?jīng)Q策為例,通過對(duì)產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù),并通過多次試驗(yàn)確定隱層單元數(shù),用MATLAB方針結(jié)果表明,采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法,取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中,根據(jù)農(nóng)作物發(fā)育進(jìn)程分成若干個(gè)發(fā)育期,分別對(duì)各個(gè)發(fā)育期建立管理模型,依照作物各發(fā)育期進(jìn)程時(shí)間間隔,由計(jì)算機(jī)系統(tǒng)自動(dòng)選取相應(yīng)的模型進(jìn)行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實(shí)際。
2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評(píng)判
農(nóng)產(chǎn)品的外觀,如形狀、大小、色澤等在生產(chǎn)過程中是不斷變化的,并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售,研究出農(nóng)作物外觀受人為和自然的影響因素,通過神經(jīng)網(wǎng)絡(luò)進(jìn)行生產(chǎn)預(yù)測(cè),可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對(duì)西紅柿表皮破裂的現(xiàn)象,西紅柿表皮應(yīng)力的增長(zhǎng)與西紅柿果肉靠近表皮部分水分的增加有關(guān),當(dāng)表皮應(yīng)力超過最大表皮強(qiáng)度時(shí),將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng),預(yù)測(cè)在環(huán)境溫度下的表皮應(yīng)力,可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。
在農(nóng)業(yè)科研和生產(chǎn)中,農(nóng)產(chǎn)品的品質(zhì)評(píng)判大多是依賴于對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)。例如對(duì)果形尺寸和顏色等外觀判別果實(shí)的成熟度,作物與雜草的辨別,種子的外觀質(zhì)量檢測(cè)。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性,農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性,單一采用圖像處理技術(shù)辨識(shí)農(nóng)產(chǎn)品的外觀時(shí)不宜過多采取失真處理和變換,否則則增加圖像處理的復(fù)雜性,特征判別也相對(duì)困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力,比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問題,與圖像處理技術(shù)相結(jié)合后,可根據(jù)圖像特征進(jìn)行選擇性判別。采用此方法可以部分替代人工識(shí)別的工作,提高了生產(chǎn)效率,也有利于實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個(gè)特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量,將輸出的種粒形態(tài)分為5類,經(jīng)過學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對(duì)完整籽粒分類的準(zhǔn)確率達(dá)到93%,破籽粒分類的準(zhǔn)確率達(dá)91%。
3.蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定
在農(nóng)業(yè)生產(chǎn)中,蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定是通過對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)進(jìn)行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識(shí)方法費(fèi)時(shí)費(fèi)力、預(yù)測(cè)可靠度很低,而且多采用人工操作,評(píng)價(jià)受到操作者主觀因素的影響,評(píng)判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識(shí)別的工作,從而大大提高生產(chǎn)效率,實(shí)現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動(dòng)化和智能化。
利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對(duì)農(nóng)產(chǎn)品果形尺寸和顏色等外觀評(píng)判,目前國(guó)內(nèi)外已有不少成果用于實(shí)際生產(chǎn)中。何東健等以計(jì)算機(jī)視覺技術(shù)進(jìn)行果實(shí)顏色自動(dòng)分級(jí)為目的,研究了用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行顏色分級(jí)的方法。分別用120個(gè)著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對(duì)網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練。兩個(gè)品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級(jí),對(duì)每一個(gè)品種分別求出7個(gè)模式特征值作為BP網(wǎng)絡(luò)的輸入,用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行分級(jí)。結(jié)果表明紅富士和紅星果實(shí)的平均分級(jí)一致率分別為94.2%和94.4%。劉禾等用對(duì)稱特征、長(zhǎng)寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合,建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗(yàn)水果品種為富士和國(guó)光。試驗(yàn)表明系統(tǒng)對(duì)富士學(xué)習(xí)率為80%,對(duì)非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75%,系統(tǒng)對(duì)國(guó)光學(xué)習(xí)率為89%,對(duì)非學(xué)習(xí)樣本的國(guó)光蘋果果形判別系統(tǒng)的難確率為82%。
三、未來的發(fā)展方向
人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用,采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果,但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟,有待于進(jìn)一步的研究。今后科研的方向大體上可以從以下幾方面著手:
1.人工神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)
人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點(diǎn),從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過程中具有一定的局限性。在今后的研究中,可以從人工神經(jīng)網(wǎng)絡(luò)方向著手,改進(jìn)人工神經(jīng)網(wǎng)絡(luò)算法,從而實(shí)現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來隨著模糊算法、蟻群算法等算法的相繼出現(xiàn),將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題,也是未來算法研究的主要方向之一。
2.應(yīng)用領(lǐng)域的擴(kuò)展
人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展,擴(kuò)展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來的一個(gè)主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力,可對(duì)農(nóng)業(yè)系統(tǒng)的非線形特性進(jìn)行較好的描述,采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足,從而實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng),解決農(nóng)業(yè)工程中的部分問題,已是今后農(nóng)業(yè)科研中的一個(gè)方向。
四、結(jié)束語
神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計(jì)算方法,具有良好的自學(xué)習(xí)與數(shù)學(xué)計(jì)算的能力,可通過計(jì)算機(jī)程序進(jìn)行模擬運(yùn)算,現(xiàn)已廣泛用于模式識(shí)別、管理決策等方面。隨著計(jì)算機(jī)硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入,神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評(píng)判等方面充分發(fā)揮其自學(xué)習(xí)能力強(qiáng),計(jì)算能力強(qiáng)的優(yōu)勢(shì),通過對(duì)樣本數(shù)據(jù)的學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長(zhǎng)過程中的作物分類、預(yù)測(cè)等非線形的問題。在農(nóng)業(yè)工程領(lǐng)域內(nèi),神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。
參考文獻(xiàn):
[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號(hào)分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45
[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào),2003,24(3):66~70
[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營(yíng)養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報(bào),2005,21(1):110~113
[4]馬成林吳才聰張書慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報(bào),2006,20(2):152~155
[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報(bào),2006,37(5):119~121
[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息,2004(10):9~1
[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579
神經(jīng)科研究 神經(jīng)內(nèi)科論文 神經(jīng)網(wǎng)絡(luò)論文 神經(jīng)外科論文 神經(jīng)網(wǎng)絡(luò)技術(shù) 紀(jì)律教育問題 新時(shí)代教育價(jià)值觀
部級(jí)期刊 審核時(shí)間1-3個(gè)月
中山大學(xué)腫瘤防治中心;中國(guó)抗癌協(xié)會(huì)神經(jīng)腫瘤專業(yè)委員會(huì)