国产一区二区三精品久久久无广告,中文无码伦av中文字幕,久久99久久99精品免视看看,亚洲a∨无码精品色午夜

神經(jīng)網(wǎng)絡(luò)前向傳播算法范例6篇

前言:中文期刊網(wǎng)精心挑選了神經(jīng)網(wǎng)絡(luò)前向傳播算法范文供你參考和學習,希望我們的參考范文能激發(fā)你的文章創(chuàng)作靈感,歡迎閱讀。

神經(jīng)網(wǎng)絡(luò)前向傳播算法

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文1

關(guān)鍵字神經(jīng)網(wǎng)絡(luò),BP模型,預測

1引言

在系統(tǒng)建模、辨識和預測中,對于線性系統(tǒng),在頻域,傳遞函數(shù)矩陣可以很好地表達系統(tǒng)的黑箱式輸入輸出模型;在時域,Box-Jenkins方法、回歸分析方法、ARMA模型等,通過各種參數(shù)估計方法也可以給出描述。對于非線性時間序列預測系統(tǒng),雙線性模型、門限自回歸模型、ARCH模型都需要在對數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對序列間關(guān)系進行假定??梢哉f傳統(tǒng)的非線性系統(tǒng)預測,在理論研究和實際應(yīng)用方面,都存在極大的困難。相比之下,神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4,6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性,與各種預測方法有機結(jié)合具有很好的發(fā)展前景,也給預測系統(tǒng)帶來了新的方向與突破。建模算法和預測系統(tǒng)的穩(wěn)定性、動態(tài)性等研究成為當今熱點問題。目前在系統(tǒng)建模與預測中,應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò),這主要是因為這種網(wǎng)絡(luò)具有通過學習逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型,本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力,通過學習獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實際應(yīng)用中,需要建模和預測的多為非線性動態(tài)系統(tǒng),利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次,即預先確定系統(tǒng)的模型,這一點非常難做到。近來,有關(guān)基于動態(tài)網(wǎng)絡(luò)的建模和預測的研究,代表了神經(jīng)網(wǎng)絡(luò)建模和預測新的發(fā)展方向。

2BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是采用Widrow-Hoff學習算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法,也就是Widrow-Hoff算法?,F(xiàn)在有許多基本的優(yōu)化算法,例如變尺度算法和牛頓算法。如圖1所示,BP神經(jīng)網(wǎng)絡(luò)包括以下單元:①處理單元(神經(jīng)元)(圖中用圓圈表示),即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重,隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來,其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值,它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元,通常為非線性函數(shù)。

2.1基本算法

BP算法主要包含4步,分為向前傳播和向后傳播兩個階段:

1)向前傳播階段

(1)從樣本集中取一個樣本(Xp,Yp),將Xp輸入網(wǎng)絡(luò);

(2)計算相應(yīng)的實際輸出Op

在此階段,信息從輸入層經(jīng)過逐級的變換,傳送到輸出層。這個過程也是網(wǎng)絡(luò)在完成訓練后正常運行時的執(zhí)行過程。

2)向后傳播階段

(1)計算實際輸出Op與相應(yīng)的理想輸出Yp的差;

(2)按極小化誤差的方式調(diào)整權(quán)矩陣。

這兩個階段的工作受到精度要求的控制,在這里取作為網(wǎng)絡(luò)關(guān)于第p個樣本的誤差測度,而將網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度定義為。圖2是基本BP算法的流程圖。

2.2動態(tài)BP神經(jīng)網(wǎng)絡(luò)預測算法

在經(jīng)典的BP算法以及其他的訓練算法中都有很多變量,這些訓練算法可以確定一個ANN結(jié)構(gòu),它們只訓練固定結(jié)構(gòu)的ANN權(quán)值(包括聯(lián)接權(quán)值和結(jié)點轉(zhuǎn)換函數(shù))。在自動設(shè)計ANN結(jié)構(gòu)方面,也已有較多的嘗試,比如構(gòu)造性算法和剪枝算法。前一種是先隨機化網(wǎng)絡(luò),然后在訓練過程中有必要地增加新的層和結(jié)點;而剪枝法則正好相反。文獻[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念,并把EP算法與BP進行了組合演化;也有很多學者把遺傳算法和BP進行結(jié)合,但這些算法都以時間復雜度以及空間復雜度的增加為代價。根據(jù)Kolmogorov定理,對于任意給定的L2型連續(xù)函數(shù)f:[0,1]nRm,f可以精確地用一個三層前向神經(jīng)網(wǎng)絡(luò)來實現(xiàn),因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點數(shù)而不影響演化結(jié)果?;诖?,在BP原有算法的基礎(chǔ)上,增加結(jié)點數(shù)演化因子,然后記錄每層因子各異時演化出的結(jié)構(gòu),最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu),這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實驗得知,不同的預測精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點數(shù),所以可根據(jù)要求動態(tài)地建立預測系統(tǒng)。具體步驟如下:

(1)將輸入向量和目標向量進行歸一化處理。

(2)讀取輸入向量、目標向量,記錄輸入維數(shù)m、輸出層結(jié)點數(shù)n。

(3)當訓練集確定之后,輸入層結(jié)點數(shù)和輸出層結(jié)點數(shù)隨之而確定,首先遇到的一個十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點數(shù)和隱層數(shù)。實驗表明,如果隱層結(jié)點數(shù)過少,網(wǎng)絡(luò)不能具有必要的學習能力和信息處理能力。反之,若過多,不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復雜性(這一點對硬件實現(xiàn)的網(wǎng)絡(luò)尤其重要),網(wǎng)絡(luò)在學習過程中更易陷入局部極小點,而且會使網(wǎng)絡(luò)的學習速度變得很慢。隱層結(jié)點數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點數(shù)s與模式數(shù)N的關(guān)系是:s=log2N;Kolmogorov定理表明,隱層結(jié)點數(shù)s=2n+1(n為輸入層結(jié)點數(shù));而根據(jù)文獻[7]:s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51[7]。

(4)設(shè)置結(jié)點數(shù)演化因子a。為了快速建立網(wǎng)絡(luò),可以對其向量初始化,并從小到大排序[4,7]。

(5)建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig,輸出層用logsig,訓練函數(shù)采用動態(tài)自適應(yīng)BP算法,并制訂停止準則:目標誤差精度以及訓練代數(shù)。

(6)初始化網(wǎng)絡(luò)。

(7)訓練網(wǎng)絡(luò)直到滿足停止判斷準則。

(8)用測試向量對網(wǎng)絡(luò)進行預測,并記錄誤差和逼近曲線,評估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。

(9)轉(zhuǎn)到(5),選取下一個演化因子,動態(tài)增加隱含層結(jié)點數(shù),直到最后得到最佳預測網(wǎng)絡(luò)。

3基于神經(jīng)網(wǎng)絡(luò)的預測原理[4]

3.1正向建模

正向建模是指訓練一個神經(jīng)網(wǎng)絡(luò)表達系統(tǒng)正向動態(tài)的過程,這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型,其結(jié)構(gòu)如圖3所示。其中,神經(jīng)網(wǎng)絡(luò)與待辨識的系統(tǒng)并聯(lián),兩者的輸出誤差用做網(wǎng)絡(luò)的訓練信號。顯然,這是一個典型的有導師學習問題,實際系統(tǒng)作為教師,向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當系統(tǒng)是被控對象或傳統(tǒng)控制器時,神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式,可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當系統(tǒng)為性能評價器時,則可選擇再勵學習算法,這時網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)(如多層感知器),也可選用具有局部逼近能力的網(wǎng)絡(luò)(如小腦模型控制器等)。3.2逆向建模

建立動態(tài)系統(tǒng)的逆模型,在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用,并且得到了廣泛的應(yīng)用。其中,比較簡單的是直接逆建模法,也稱為廣義逆學習。其結(jié)構(gòu)如圖4所示,擬預報的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入,網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較,相應(yīng)的輸入誤差用于訓練,因而網(wǎng)絡(luò)將通過學習建立系統(tǒng)的逆模型。但是,如果所辨識的非線性系統(tǒng)是不可逆的,利用上述方法將得到一個不正確的逆模型。因此,在建立系統(tǒng)時,可逆性應(yīng)該先有所保證。

4應(yīng)用實例分析

以我國西南某地震常發(fā)地區(qū)的地震資料作為樣本來源,實現(xiàn)基于動態(tài)神經(jīng)網(wǎng)絡(luò)的地震預報。根據(jù)資料,提取出7個預報因子和實際發(fā)生的震級M作為輸入和目標向量。預報因子為半年內(nèi)M>=3的地震累計頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個數(shù)、地震條帶個數(shù)、是否處于活動期內(nèi)以及相關(guān)地震區(qū)地震級。在訓練前,對數(shù)據(jù)進行歸一化處理。由于輸入樣本為7維的輸入向量,一般情況下輸入層設(shè)7個神經(jīng)元。根據(jù)實際情況,輸出層神經(jīng)元個數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù),輸出層也可以動態(tài)選擇傳遞函數(shù)。實例數(shù)據(jù)來自文獻[4],將數(shù)據(jù)集分為訓練集、測試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓練向量,第一個7表示預報因子數(shù),第二個7表示樣本數(shù)。

表1歸一化后的訓練向量

在不同神經(jīng)元數(shù)情況下,對網(wǎng)絡(luò)進行訓練和仿真,得到如圖5所示的一組預測誤差曲線。其中,曲線A表示隱層結(jié)點數(shù)為6時的預測誤差曲線,曲線B表示隱含層結(jié)點數(shù)為3時的預測誤差曲線,曲線C表示隱含層結(jié)點數(shù)為5時的預測誤差曲線,曲線D表示隱含層結(jié)點數(shù)為4時的預測誤差曲線。將五種情況下的誤差進行對比,曲線C表示的網(wǎng)絡(luò)預測性能最好,其隱含層神經(jīng)元數(shù)為5,圖中曲線E表示的是隱含層結(jié)點數(shù)為15時的預測誤差曲線(文獻[4]中的最好結(jié)果)。同時也證明,在設(shè)計BP網(wǎng)絡(luò)時,不能無限制地增加層神經(jīng)元的個數(shù)。若過多,不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復雜性,網(wǎng)絡(luò)在學習過程中更易陷入局部極小點,而且會使網(wǎng)絡(luò)的學習速度、預測速度變得很慢。

5結(jié)論

本文針對基本的BP神經(jīng)網(wǎng)絡(luò),提出了可動態(tài)改變神經(jīng)元數(shù)(與精度相關(guān))的BP神經(jīng)網(wǎng)絡(luò)預測方法,可以根據(jù)實際情況建立預測系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò),不會有多余的神經(jīng)元,也不會讓網(wǎng)絡(luò)在學習過程中過早陷于局部極小點。

參考文獻

[1]YaoX,LiuY.FastEvolutionaryProgramming.inEvolutionaryProgrammingⅤ:Proc.5thAnnu.Conf.EvolutionaryProgram,L.Fogel,P.AngelineandT.Bäck,Eds.Cambridge,MA:MITPress,1996,451-460

[2]XinYao,YongLiu,ANewEvolutionarySystemforEvolvingArtificialNeuralNetworksIEEETRANSACTIONSONNEURALNETWORKS,VOL8,NO.31997,694-714

[3]潘正君,康立山,陳毓屏.演化計算[M].北京:清華大學出版社,1998

[4]飛思科技產(chǎn)品研發(fā)中心.神經(jīng)網(wǎng)絡(luò)理論與實現(xiàn).北京:電子工業(yè)出版社,2005

[5]蔡曉芬,方建斌.演化神經(jīng)網(wǎng)絡(luò)算法.江漢大學學報,第33卷第3期,2005.9

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文2

【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò) 路徑規(guī)劃 移動機器人

1 引言

在移動機器人導航技術(shù)應(yīng)用過程中,路徑規(guī)劃是一種必不可少的算法,路徑規(guī)劃要求機器人可以自己判定障礙物,以便自主決定路徑,能夠避開障礙物,自主路徑規(guī)劃可以自動的要求移動機器人能夠安全實現(xiàn)智能化移動的標志,通常而言,機器人選擇的路徑包括很多個,因此,在路徑最短、使用時間最短、消耗的能量最少等預定的準則下,能夠選擇一條最優(yōu)化的路徑,成為許多計算機學者研究的熱點和難點。

2 背景知識

神經(jīng)網(wǎng)絡(luò)模擬生物進化思維,具有獨特的結(jié)構(gòu)神經(jīng)元反饋機制,其具有分布式信息存儲、自適應(yīng)學習、并行計算和容錯能力較強的特點,以其獨特的結(jié)構(gòu)和信息處理方法,在自動化控制、組合優(yōu)化領(lǐng)域得到了廣泛的應(yīng)用,尤其是大規(guī)模網(wǎng)絡(luò)數(shù)據(jù)分析和態(tài)勢預測中,神經(jīng)網(wǎng)絡(luò)能夠建立一個良好的分類學習模型,并且在學習過程中優(yōu)化每一層的神經(jīng)元和神經(jīng)元連接的每一個節(jié)點。1993年,Banta等將神經(jīng)網(wǎng)絡(luò)應(yīng)用于移動機器人路徑規(guī)劃過程中,近年來,得到了廣泛的研究和發(fā)展,morcaso等人構(gòu)建利用一個能夠?qū)崿F(xiàn)自組織的神經(jīng)網(wǎng)絡(luò)實現(xiàn)機器人導航的功能,并且可以通過傳感器訓練網(wǎng)絡(luò),取得更好的發(fā)展,確定系統(tǒng)的最佳路徑。神經(jīng)網(wǎng)絡(luò)拓撲結(jié)構(gòu)模型可以分為:

2.1 前向網(wǎng)絡(luò)

網(wǎng)絡(luò)中各個神經(jīng)元接受前一級的輸入,并輸出到下一級,網(wǎng)絡(luò)中沒有反饋,可以用一個有向無環(huán)路圖表示。這種網(wǎng)絡(luò)實現(xiàn)信號從輸入空間到輸出空間的變換,它的信息處理能力來自于簡單非線性函數(shù)的多次復合。網(wǎng)絡(luò)結(jié)構(gòu)簡單,易于實現(xiàn)。反傳網(wǎng)絡(luò)是一種典型的前向網(wǎng)絡(luò)。

2.2 反饋網(wǎng)絡(luò)

網(wǎng)絡(luò)內(nèi)神經(jīng)元間有反饋,可以用一個無向的完備圖表示。這種神經(jīng)網(wǎng)絡(luò)的信息處理是狀態(tài)的變換,可以用動力學系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關(guān)系。Hopfield網(wǎng)絡(luò)、波耳茲曼機均屬于這種類型。

3 基于人工神經(jīng)網(wǎng)絡(luò)的移動機器人路徑規(guī)劃算法

神經(jīng)網(wǎng)絡(luò)解決移動機器人路徑規(guī)劃的思路是:使用神經(jīng)網(wǎng)絡(luò)算法能夠描述機器人移動環(huán)境的各種約束,計算碰撞函數(shù),該算法能夠?qū)⒌窂近c集作為碰撞能量函數(shù)和距離函數(shù)的和當做算法需要優(yōu)化的目標函數(shù),通過求解優(yōu)化函數(shù),能夠確定點集,實現(xiàn)路徑最優(yōu)規(guī)劃。神經(jīng)網(wǎng)絡(luò)算法在移動機器人路徑規(guī)劃過程中的算法如下:

(1)神將網(wǎng)絡(luò)算法能夠初始化神經(jīng)網(wǎng)絡(luò)中的所有神經(jīng)元為零,確定目標點位置的神經(jīng)元活性值,并且能夠神經(jīng)網(wǎng)絡(luò)每層的神經(jīng)元連接將神經(jīng)元的值傳播到出發(fā)點;

(2)動態(tài)優(yōu)化神經(jīng)網(wǎng)絡(luò),根據(jù)神經(jīng)網(wǎng)絡(luò)的目標節(jié)點和障礙物的具置信息,在神經(jīng)網(wǎng)絡(luò)拓撲結(jié)構(gòu)中的映射中產(chǎn)生神經(jīng)元的外部輸入;

(3)確定目標值附件的神經(jīng)元活性值,并且使用局部側(cè)的各個神經(jīng)元之間,連接整個神經(jīng)網(wǎng)絡(luò),并且在各個神經(jīng)元中進行傳播。

(4)利用爬山法搜索當前鄰域內(nèi)活性值最大的神經(jīng)元,如果鄰域內(nèi)的神經(jīng)元活性值都不大于當前神經(jīng)元的活性值,則機器人保持在原處不動;否則下一個位置的神經(jīng)元為鄰域內(nèi)具有最大活性值的神經(jīng)元。

(5)如果機器人到達目標點則路徑規(guī)劃過程結(jié)束,否則轉(zhuǎn)步驟(2)。

4 基于人工神經(jīng)網(wǎng)絡(luò)的移動機器人路徑規(guī)劃技術(shù)展望

未來時間內(nèi),人工神經(jīng)在機器人路徑規(guī)劃過程中的應(yīng)用主要發(fā)展方向包括以下幾個方面:

4.1 與信息論相融合,確定神經(jīng)網(wǎng)絡(luò)的最優(yōu)化化目標解

在神經(jīng)網(wǎng)絡(luò)應(yīng)用過程中,由于經(jīng)驗值較為難以確定,因此在神經(jīng)網(wǎng)絡(luò)的應(yīng)用過程中,將神經(jīng)網(wǎng)絡(luò)看做是一個貝葉斯網(wǎng)絡(luò),根據(jù)貝葉斯網(wǎng)絡(luò)含有的信息熵,確定神經(jīng)網(wǎng)絡(luò)的目標函數(shù)的最優(yōu)解,以便更好的判斷機器人移動的最佳路徑。

4.2 與遺傳算法想結(jié)合,確定全局最優(yōu)解

將神經(jīng)網(wǎng)絡(luò)和遺傳算法結(jié)合起來,其可以將機器人的移動環(huán)境設(shè)置為一個二維的環(huán)境,障礙物的數(shù)目、位置和形狀是任意的,路徑規(guī)劃可以由二維工作空間一系列的基本點構(gòu)成,神經(jīng)網(wǎng)絡(luò)決定機器人的運動控制規(guī)則,利用相關(guān)的神經(jīng)元的傳感器作用獲未知環(huán)境的情況,將障礙信息和目標點之間的距離作為神經(jīng)網(wǎng)絡(luò)的輸入信息,使用遺傳算法完成神經(jīng)網(wǎng)絡(luò)的權(quán)值訓練,神經(jīng)網(wǎng)絡(luò)的輸出作為移動機器人的運動作用力,實現(xiàn)一個可以在未知環(huán)境中進行的機器人運動路徑規(guī)劃。

4.3 與蟻群算法相結(jié)合,降低搜索空間,提高路徑規(guī)劃準確性

為了提高神經(jīng)網(wǎng)絡(luò)的搜索準確性和提高效率,可以將蟻群算法與神經(jīng)網(wǎng)絡(luò)相互結(jié)合,蟻群算法的路徑規(guī)劃方法首先采用柵格法對機器人工作環(huán)境進行建模,然后將機器人出發(fā)點作為蟻巢位置,路徑規(guī)劃最終目標點作為蟻群食物源,通過螞蟻間相互協(xié)作找到一條避開障礙物的最優(yōu)機器人移動路徑。

5 結(jié)語

隨著移動機器人技術(shù)的發(fā)展,路徑規(guī)劃作為最重要的一個組成部分,其得到了許多的應(yīng)用和發(fā)展,其在導航過程中,也引入了許多先進的算法,比如神經(jīng)網(wǎng)絡(luò),更加優(yōu)化了移動的路徑。未來時間內(nèi),隨著神經(jīng)網(wǎng)絡(luò)技術(shù)的改進,可以引入遺傳算法、信息論、蟻群算法等,將這些算法優(yōu)勢結(jié)合,將會是路徑規(guī)劃更加準確和精確。

參考文獻

[1]朱大奇,顏明重,滕蓉. 移動機器人路徑規(guī)劃技術(shù)綜述[J].控制與決策,2010,25(7): 961-967.

[2]劉毅.移動機器人路徑規(guī)劃中的仿真研究[J].計算機仿真,2011,28(6): 227-230.

[3]熊開封,張華.基于改進型 FNN 的移動機器人未知環(huán)境路徑規(guī)劃[J].制造業(yè)自動化,2013,35(22): 1-4.

[4]柳長安,鄢小虎,劉春陽.基于改進蟻群算法的移動機器人動態(tài)路徑規(guī)劃方法[J].電子學報,2011,39(5).

[5]范浩鋒,劉俊.基于 BP 神經(jīng)網(wǎng)絡(luò)的紅外目標識別技術(shù)[J].計算機與數(shù)字工程,2013,41(4): 559-560.

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文3

關(guān)鍵詞:發(fā)電燃料;供應(yīng)預測;BP神經(jīng)網(wǎng)絡(luò);預測方法

中圖分類號:TM 762 文獻標示碼:A

0 引言

發(fā)電燃料的供應(yīng)受到能源政策、供需形勢、資源分布、供應(yīng)價格、交通運輸、市場博弈等多種復雜因素的影響,長期以來缺乏合理有效的供應(yīng)預測方法和技術(shù)手段,尤其是廠網(wǎng)分離后鮮見相關(guān)的研究工作。

文獻1《遼寧火電廠燃料管理信息系統(tǒng)的開發(fā)與研制》開發(fā)和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進行廣域網(wǎng)數(shù)據(jù)交換,同時能進行審核管理和業(yè)務(wù)信息方便傳輸?shù)娜剂暇C合管理信息系統(tǒng)。

文獻2《電力系統(tǒng)燃料MIS系統(tǒng)開發(fā)研究》探討了燃料管理信息系統(tǒng)的組成、功能、結(jié)構(gòu)及開發(fā)應(yīng)用,為綜述性理論研究。

以上文獻均未對發(fā)電燃料供應(yīng)提供較有效的預測方法。本文提出一種基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)量預測方法,利用神經(jīng)網(wǎng)絡(luò)原理,通過數(shù)據(jù)收集、數(shù)據(jù)修正和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇建立起基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)預測模型。通過MATLAB實際仿真,證明該預測方法預測較準確,并具有靈活的適應(yīng)性。

基金項目:中國南方電網(wǎng)有限責任公司科技項目(K-ZD2013-005)

1 預測方法

按預測方法的性質(zhì)不同,預測可分為定性預測和定量預測。常用的定性預測方法有主觀概率法、調(diào)查預測法、德爾菲法、類比法、相關(guān)因素分析法等。定量方法又可以分為因果分析法和時間序列分析法等,因果分析法也叫結(jié)構(gòu)關(guān)系分析法。它是通過分析變化的原因,找出原因與結(jié)果之間的聯(lián)系方式,建立預測模型,并據(jù)此預測未來的發(fā)展變化趨勢及可能水平。時間序列分析法也叫歷史延伸法。它是以歷史的時間序列數(shù)據(jù)為基礎(chǔ),運用一定的數(shù)學方法尋找數(shù)據(jù)變動規(guī)律向外延伸,預測未來的發(fā)展變化趨勢。由于時間序列模型無法引入對負荷影響的其它變量,所以,單純應(yīng)用時間序列模型進行供應(yīng)預測精度難以提高。

運用人工神經(jīng)網(wǎng)絡(luò)技術(shù)進行預測,其優(yōu)點是可以模仿人腦的智能化處理過程,對大量非結(jié)構(gòu)性、非精確性規(guī)律具有自適應(yīng)功能,具有信息記憶、自主學習、知識推理和優(yōu)化計算的特點,特別是其自學習和自適應(yīng)功能是常規(guī)算法和專家系統(tǒng)所不具備的,因此,預測是人工神經(jīng)網(wǎng)絡(luò)的最有潛力的應(yīng)用領(lǐng)域之一,有非常廣泛的前途。

2 BP神經(jīng)網(wǎng)絡(luò)模型

2.1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是由神經(jīng)元以一定的拓撲結(jié)構(gòu)和連接關(guān)系組成的信息表現(xiàn)、儲存和變換系統(tǒng),是模仿人腦結(jié)構(gòu)的一種信息系統(tǒng),可較好地模擬人的形象思維能力。它是對自然界中生物體神經(jīng)系統(tǒng)進行抽象和改造,并模擬生物體神經(jīng)系統(tǒng)功能的產(chǎn)物。神經(jīng)網(wǎng)絡(luò)的重要特點是具有記憶和學習能力,經(jīng)過一定訓練之后,能夠?qū)o定的輸入做出相應(yīng)處理。

人工神經(jīng)網(wǎng)絡(luò)適用于處理實際中不確定性、精確性不高等引起的系統(tǒng)難以控制的問題,映射輸入輸出關(guān)系。人工神經(jīng)網(wǎng)絡(luò)優(yōu)于傳統(tǒng)方法在于:

1)實現(xiàn)了非線性關(guān)系的隱式表達,不需要建立復雜系統(tǒng)的顯示關(guān)系式;

2)容錯性強,可以處理信息不完全的預測問題,而信息不完全的情況在實際中經(jīng)常遇到;

3)由于神經(jīng)網(wǎng)絡(luò)具有一致逼進效果,訓練后的神經(jīng)網(wǎng)絡(luò)在樣本上輸出期望值,在非樣本點上表現(xiàn)出網(wǎng)絡(luò)的聯(lián)想記憶功能;

4)由于大規(guī)模并行機制,故預測速度快;

5)動態(tài)自適應(yīng)能力強,可適應(yīng)外界新的學習樣木,使網(wǎng)絡(luò)知識不斷更新。

圖1是一個人工神經(jīng)元的典型結(jié)構(gòu)圖。

圖1 神經(jīng)元典型結(jié)構(gòu)圖

它相當于一個多輸入單輸出的非線性閾值器件。,表示該神經(jīng)元的輸入向量;為權(quán)值向量;θ為神經(jīng)元的閾值,如果神經(jīng)元輸入向量加權(quán)和大于0,則神經(jīng)元被激活;f表示神經(jīng)元的輸入輸出關(guān)系函數(shù),即傳輸函數(shù)。因此,神經(jīng)元的輸出可以表示為:

其中傳輸函數(shù)是神經(jīng)元以及網(wǎng)絡(luò)的核心。網(wǎng)絡(luò)解決問題的能力與功效除了與網(wǎng)絡(luò)結(jié)構(gòu)有關(guān),在很大程度上取決于網(wǎng)絡(luò)所采用的傳輸函數(shù)。

幾種常見的傳輸函數(shù)如圖2所示:

(1)為閾值型,將任意輸入轉(zhuǎn)化為0或1輸出,其輸入/輸出關(guān)系為:

(2)為線性型,其輸入/輸出關(guān)系為:

(3)、(4)為S型,它將任意輸入值壓縮到(0,1)的范圍內(nèi),此類傳遞函數(shù)常用對數(shù)(logsig)或雙曲正切(tansig)等一類S形狀的曲線來表示,如對數(shù)S型傳遞函數(shù)的關(guān)系為:

而雙曲正切S型曲線的輸入/輸出函數(shù)關(guān)系是:

(1) (2)

(3) (4)

圖2 常見的傳遞函數(shù)圖形

2.2 BP神經(jīng)網(wǎng)絡(luò)概述

神經(jīng)網(wǎng)絡(luò)的魅力在于它超強的映射能力,單層感知器可實現(xiàn)性分類,多層前向網(wǎng)絡(luò)則可以逼近任何非線性函數(shù)??梢詫P網(wǎng)絡(luò)視為從輸入到輸出的高度非線性映射,而有關(guān)定理證明BP神經(jīng)網(wǎng)絡(luò)通過對簡單的非線性函數(shù)進行數(shù)次復合,可以近似任何復雜的函數(shù)。

在人工神經(jīng)網(wǎng)絡(luò)的實際應(yīng)用中,80%-90%的人工神經(jīng)網(wǎng)絡(luò)模型是采用BP網(wǎng)絡(luò)和它的變化形式,它也是前向網(wǎng)絡(luò)的核心,體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分。在人們掌握反向傳播網(wǎng)絡(luò)的設(shè)計之前,感知器和自適應(yīng)線性元件都只能適用于對單層網(wǎng)絡(luò)模型的訓練,只是后來才得到進一步拓展。

BP神經(jīng)網(wǎng)絡(luò)主要應(yīng)用有:

(1)函數(shù)逼近:用輸入矢量和相應(yīng)的輸出矢量訓練一個網(wǎng)絡(luò)逼近一個函數(shù)。

(2)模式識別:用一個特定的輸出矢量將它與輸入矢量聯(lián)系起來。

(3)分類:把輸入矢量以所定義的合適方式進行分類。

(4)數(shù)據(jù)壓縮:減少輸出矢量維數(shù)以便于傳輸或存儲。

2.3 誤差反向傳播算法原理

BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),名字源于網(wǎng)絡(luò)權(quán)值的調(diào)整規(guī)則,采用的是誤差反向傳播算法(Error Back-Propagation Training Algorithm)即BP算法。BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)。除輸入輸出節(jié)點之外,有一層或多層的隱藏節(jié)點,同層節(jié)點之間無任何連接。典型的BP網(wǎng)絡(luò)是三層前饋階層網(wǎng)絡(luò),即:輸入層、隱含層(中間層)和輸出層,各層之間實行全連接。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示:

圖3 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

BP網(wǎng)絡(luò)學習過程包括誤差正向傳播和反向傳播兩個過程。在正向傳播過程中,輸入樣本從輸入層傳入,經(jīng)各隱含逐層處理后,傳向輸出層,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。若輸出層的實際輸出與期望的輸出不符,則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過隱含層向輸入層逐層反傳,并將誤差分攤給各層的所有單元,從而獲得各層單元的誤差信號,此誤差信號即作為修正各神經(jīng)元之間權(quán)值的依據(jù)。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程,是周而復始地進行的。權(quán)值不斷調(diào)整的過程,也就是網(wǎng)絡(luò)學習訓練的過程。此過程一直進行到網(wǎng)絡(luò)輸出的誤差減小到可接受的程度,或進行到預先設(shè)定的學習次數(shù)為止。

BP神經(jīng)元與其他神經(jīng)元類似,不同的是,由于BP神經(jīng)元的傳遞函數(shù)必須是處處可微的,它不能采用二值型{0,1}或符號函數(shù){-1,1},所以其傳遞函數(shù)為非線性函數(shù),最常用的函數(shù)S型函數(shù),有時也采用線性函數(shù)。本文采用S型(Sigmoid)函數(shù)作為激發(fā)函數(shù):

式中,為網(wǎng)絡(luò)單元的狀態(tài):

則單元輸出為:

其中,為單元的閥值。在這種激發(fā)函數(shù)下,有:

故對輸出層單元:

對隱層單元:

權(quán)值調(diào)節(jié)為:

在實際學習過程中,學習速率對學習過程的影響很大。是按梯度搜索的步長。越大,權(quán)值的變化越劇烈。實際應(yīng)用中,通常是以不導致振蕩的前提下取盡量大的值。為了使學習速度足夠快而不易產(chǎn)生振蕩,往往在規(guī)則中再加一個“勢態(tài)項”,即:

式中,是一個常數(shù),它決定過去權(quán)重的變化對目前權(quán)值變化的影響程度。

圖4為BP算法流程圖。

圖4 BP算法流程圖

3 發(fā)電燃料供應(yīng)預測BP神經(jīng)網(wǎng)絡(luò)模型建立

3.1 數(shù)據(jù)的收集與整理

發(fā)電燃料供應(yīng)是一個龐大的系統(tǒng),其中的數(shù)據(jù)資料紛繁復雜。在進行模型的搭建之前,需要進行歷史資料的整理,提取出所需的數(shù)據(jù)。本模型中,選取與燃料供應(yīng)有關(guān)的數(shù)據(jù)作為影響因素,如電廠發(fā)電量、能源政策、能源供需形勢、交通運輸狀況、燃料價格和機組能耗等。

3.2 數(shù)據(jù)的修正

如果在數(shù)據(jù)采集與傳輸時受到一定干擾,就會出現(xiàn)資料出錯或數(shù)據(jù)丟失的情況,此時都會產(chǎn)生影響預測效果的壞數(shù)據(jù),這些壞數(shù)據(jù)將會掩蓋實際模型的規(guī)律,直接影響模型的效果與精度。據(jù)此,需對樣本數(shù)據(jù)進行預處理,以確保在建模和預測過程中所運用的歷史數(shù)據(jù)具有真實性、正確性和同規(guī)律性。一般樣本數(shù)據(jù)預處理方法主要有經(jīng)驗修正法、曲線置換法、插值法、20%修正法、數(shù)據(jù)橫向縱向?qū)Ρ确?、小波分析去噪法等。對于簡單問題,采用數(shù)據(jù)的橫向縱向?qū)Ρ燃纯蓪崿F(xiàn)壞數(shù)據(jù)的剔除。

3.3 BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)選擇

理論證明,3層前向式神經(jīng)網(wǎng)絡(luò)能夠以任意精度實現(xiàn)任意函數(shù),所以,本模型中采用3層前向網(wǎng)絡(luò)。同時,當有N個影響時, 3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點數(shù)為N個,隱含層節(jié)點數(shù)一般為2N ~ 4N,最佳取值可根據(jù)實際問題試湊得,輸出層為1個節(jié)點, 因此可以取其平均結(jié)構(gòu)為N - 3N - 1型, 輸入層激發(fā)函數(shù)為線性函數(shù), 中間層和輸出層的激發(fā)函數(shù)為S型函數(shù)。

3.4 BP神經(jīng)網(wǎng)絡(luò)模型建立

對于實際的燃料供應(yīng)模型,數(shù)據(jù)的選擇要有針對性,結(jié)構(gòu)要合適,這在預測過程中是重中之重。為便于模型選擇、結(jié)果對比,可同時采用幾種不同的數(shù)學模型進行預測。在完成對恰當?shù)念A測模型的選擇后,利用提取自歷史資料的訓練數(shù)據(jù)對建立好的預測數(shù)學模型進行參數(shù)訓練。當模型的參數(shù)訓練好以后,即可利用此模型進行預測。

具體操作步驟如下:

(1)對訓練樣本與預測樣本進行歸一化預處理,公式表示如式(1)。

(1)

其中表示經(jīng)過歸一化后的值,表示實際值,,分別是訓練集中數(shù)據(jù)的最大值和最小值,k表示輸入向量的維數(shù),i表示有作用因素的個數(shù)。

(2)對預測的數(shù)據(jù)樣本進行提取,并分別列出訓練與測試的樣本集合。

(3)對BP神經(jīng)網(wǎng)絡(luò)的輸入層、隱含層、輸出層的節(jié)點進行定義,對網(wǎng)絡(luò)的權(quán)重、閾值進行初始賦值。

(4)利用訓練樣本對BP神經(jīng)網(wǎng)絡(luò)進行訓練,建立符合實際問題的模型。

(5)利用事先預備的測試樣本對訓練好的網(wǎng)絡(luò)進行測試,若效果不佳,則重新訓練,若效果好則繼續(xù)下一步。

(6)利用預測樣本及訓練好的模型進行預測。

具體流程圖如圖5所示:

圖5 模型建立流程圖

4 基于BP神經(jīng)網(wǎng)絡(luò)模型的發(fā)電燃料供應(yīng)預測

(1)樣本數(shù)據(jù)的選擇

以各類影響耗煤的因素作為輸入 。

(2)進行歸一化處理

避免量綱對模型的影響。同時,降低數(shù)據(jù)的數(shù)量級,可以提高BP網(wǎng)絡(luò)的訓練的速度,避免飽和。

(3)確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點為1個(可根據(jù)實際情況調(diào)整),對應(yīng)于輸入樣本,隱含層節(jié)點為15,輸出層節(jié)點為1,對應(yīng)于輸出樣本。網(wǎng)絡(luò)初始連接權(quán)及神經(jīng)元初始閾值采用隨機賦值方式。神經(jīng)元的激發(fā)函數(shù)為S函數(shù),最大迭代次數(shù)為400,學習步長為0.001,學習誤差為0.00001。

(4)利用訓練樣本進行網(wǎng)絡(luò)的訓練

(5)利用測試樣本進行模型的測試

人為選定5%相對誤差為模型訓練好壞的判別標準。若測試樣本的測試結(jié)果的相對誤差在5%以內(nèi),則進行下一步,否則重新訓練。

(6)利用預測樣本和已訓練好的模型進行預測

南方電網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)量預測結(jié)果值與實際值的對比如圖6所示:

圖6 南網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)預測值與實際值對比圖

5 結(jié)論

隨著廠網(wǎng)分離的實施,電網(wǎng)公司和電力調(diào)度機構(gòu)對發(fā)電燃料供應(yīng)的掌握嚴重不足,已經(jīng)不能滿足電力供應(yīng)工作的要求,尤其是在來水偏枯、電力供應(yīng)緊張的時期,發(fā)電燃料供應(yīng)的預測對緩解電力供需矛盾、有序做好發(fā)用電管理起著舉足輕重的作用,因此,迫切需要開展發(fā)電燃料供應(yīng)影響因素及預測方法的研究工作。

本文在收集、掌握發(fā)電燃料供應(yīng)來源、價格、運輸?shù)惹闆r的基礎(chǔ)上,基于BP神經(jīng)網(wǎng)絡(luò)研究建立發(fā)電燃料供應(yīng)量的預測模型和預測方法。通過MATLAB仿真預測,對預測結(jié)果值和實際值進行了對標分析,證明該預測方法預測較準確,并具有靈活的適應(yīng)性。本文的研究有利于提升發(fā)電燃料的管理水平和掌控力度,為合理有序做好電力供應(yīng)工作提供有力支持。

參考文獻:

[1]孫長青.基于OSGI的發(fā)電集團燃料管控系統(tǒng)設(shè)計與實現(xiàn)[D].導師:陳有青.中山大學,2011.

[2]史新梅,裴珍.遼寧火電廠燃料管理信息系統(tǒng)的開發(fā)與研制[J].安徽工業(yè)大學學報,2001,(04):359-362+366.

[3]付民慶.基于J2EE架構(gòu)燃料管理信息系統(tǒng)的研究與實現(xiàn)[D].導師:申曉留.華北電力大學(北京),2008.

[4]魏學軍.DF電廠燃料管理信息系統(tǒng)的研究與應(yīng)用[D].導師:胡立德;戴鶴.重慶大學,2008.

[5]孫文君.發(fā)電企業(yè)燃料自動監(jiān)管系統(tǒng)設(shè)計及應(yīng)用[D].導師:張慶超;關(guān)萬祥.天津大學,2010.

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文4

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);Adaboost算法;強預測器;迭代算法;稅收預測

中圖分類號: TP183

文獻標志碼:A

Tax forecasting based on Adaboost algorithm and BP neural network

LI Xiang*, ZHU Quan-yin

Faculty of Computer Engineering, Huaiyin Institute of Technology, Huai’an Jiangsu 223003, China

Abstract:

In view of the lower accuracy of traditional tax forecasting models, the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly, the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data; secondly, it initialized the weights and thresholds of BP neural network, and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights; finally, it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network, has effectively reduced the effect when single BP gets trapped in local minima, and has improved the prediction accuracy of network.

英文關(guān)鍵詞 Key words:

neural network; Adaboost algorithm;strong predictor;iterative algorithm; tax forecasting

0 引言

稅收是實施財政政策的重要工具,也是聯(lián)系宏微觀經(jīng)濟的一種紐帶。作為國家宏觀調(diào)控體系的重要組成部分,稅收也是國家駕馭市場經(jīng)濟最主要、最有效、最常用的手段之一[1]。因此,稅收預測的科學性和準確性具有重要的研究價值。

稅收數(shù)據(jù)是一種動態(tài)、非線性的時間序列數(shù)據(jù),受到政治、經(jīng)濟、文化等因素影響,稅收數(shù)據(jù)的預測精度主要取決于預測算法。國內(nèi)外學者當前對稅收預測的研究方法,主要集中于基于線性回歸方法、時間序列分析方法和神經(jīng)網(wǎng)絡(luò)預測方法。文獻[2]采用線性回歸方法對稅收進行預測,由于影響稅收預測的因素較多,且這些因素之間表現(xiàn)出較強的非線性特征,所以線性回歸模型預測的精度不高。文獻[3-4]中提出使用反向反饋傳播(Back Propagation,BP)神經(jīng)網(wǎng)絡(luò)進行稅收預測,但該方法沒有克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)存在的缺陷,容易陷入局部極小值,算法收斂速度較慢。文獻[5-6]中提出使用Elman神經(jīng)網(wǎng)絡(luò)進行稅收預測,取得了比傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)更高的預測精度。但由于Elman神經(jīng)網(wǎng)路的學習過程與前饋神經(jīng)網(wǎng)絡(luò)類似,也會出現(xiàn)收斂速度慢和易收斂到局部極小的缺陷,導致預測結(jié)果不穩(wěn)定[7]。

本文針對上述問題,提出基于Adaboost算法和BP神經(jīng)網(wǎng)絡(luò)的稅收預測方法,并將該方法應(yīng)用于我國1990—2010年稅收數(shù)據(jù)仿真實驗,證明了本文方法的有效性。

1 BP神經(jīng)網(wǎng)絡(luò)與Adaboost算法

1.1 BP神經(jīng)網(wǎng)絡(luò)原理

BP網(wǎng)絡(luò)是典型的前饋神經(jīng)網(wǎng)絡(luò),其權(quán)值訓練中采用誤差逆向傳播的方式,具有非線性連續(xù)有理函數(shù)的逼近功能[8]。在信號前向傳遞過程中,輸入信號從輸入層進入,經(jīng)過隱含層處理,到達輸出層。每一層的神經(jīng)元狀態(tài)只影響下一層的神經(jīng)元狀態(tài)。判斷輸出層的結(jié)果是否為期望輸出,如果不是,則轉(zhuǎn)入反向傳播,然后根據(jù)預測誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值,從而使BP神經(jīng)網(wǎng)絡(luò)預測輸出不斷逼近期望輸出[9]。由于結(jié)構(gòu)簡單,可調(diào)參數(shù)多,訓練算法多,操控性好,BP 神經(jīng)網(wǎng)絡(luò)獲得了廣泛的實際應(yīng)用[10]。BP神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)如圖1所示。

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文5

[關(guān)鍵詞] 船舶供應(yīng)商 評價體系 遺傳算法 神經(jīng)網(wǎng)絡(luò)

選擇合適的供應(yīng)商直接關(guān)系到船舶企業(yè)降低成本、提高企業(yè)競爭力?,F(xiàn)有的平價方法在確定指標權(quán)重時存在主觀隨意性,評價結(jié)果缺乏客觀與公正。BP神經(jīng)網(wǎng)絡(luò)具有容錯性、自適應(yīng)性等特點,解決了評價過程中指標權(quán)重隨意性和人為因素。本文構(gòu)建了BP神經(jīng)網(wǎng)絡(luò)的船舶供應(yīng)商評價模型,并針對BP神經(jīng)網(wǎng)絡(luò)收斂速度慢的缺點,采用遺傳算法對構(gòu)建的BP神經(jīng)網(wǎng)絡(luò)模型進行優(yōu)化,從而構(gòu)建評價船舶供應(yīng)商遺傳神經(jīng)網(wǎng)絡(luò)模型。

一、船舶供應(yīng)商評價指標體系的構(gòu)建

原材料供應(yīng)商和船舶配套企業(yè)的產(chǎn)品質(zhì)量性能以及管理水平等都會對船舶企業(yè)的正常運行帶來重大影響,直接關(guān)系到企業(yè)的盈利能力。因此,構(gòu)建科學的合理的供應(yīng)商評價體系,是船舶制造企業(yè)綜合評價供應(yīng)商的依據(jù)。

周期長、成本高等特點決定了船舶是一種特殊的產(chǎn)品,需要結(jié)合船舶自身的特點來構(gòu)建船舶供應(yīng)商評價指標體系。綜合學者的研究成果與船舶公司實際狀況,本文認為應(yīng)該從質(zhì)量、成本、交貨、柔性、財務(wù)與信譽狀況以及服務(wù)與管理水平6個方面構(gòu)建船舶供應(yīng)商的評價指標體系。

二、基于遺傳神經(jīng)網(wǎng)絡(luò)的船舶供應(yīng)商評價模型

1.BP神經(jīng)網(wǎng)絡(luò)在船舶供應(yīng)商評價中的應(yīng)用

BP神經(jīng)網(wǎng)絡(luò)模型是一個分層型網(wǎng)絡(luò),具有輸入層、中間層和輸出層。供應(yīng)商評價指標由輸入層到輸出層的傳遞是一個前向傳播的過程,若輸出結(jié)果與期望結(jié)果的誤差超過允許范圍,則誤差反向傳播,并根據(jù)各層誤差的大小來調(diào)節(jié)權(quán)值,尋找最佳權(quán)集,實現(xiàn)正確輸出?;贐P神經(jīng)網(wǎng)絡(luò)的船舶供應(yīng)商評價模型結(jié)構(gòu)及學習原理如圖2所示。

2.基于遺傳算法改進的BP神經(jīng)網(wǎng)絡(luò)模型

BP算法是沿梯度下降(平方誤差函數(shù))來指導搜索的,學習過程收斂速度慢,易陷入局部極小點。而遺傳算法對于全局搜索具有較強的魯棒性和較高的效率,克服了BP網(wǎng)絡(luò)的局限性。將遺傳算法與BP網(wǎng)絡(luò)相結(jié)合,可以達到全局尋優(yōu)和快速高效的目的。

遺傳算法改進BP神經(jīng)網(wǎng)絡(luò)模型的步驟是:(1)確定網(wǎng)絡(luò)參數(shù);(2)設(shè)定的種群規(guī)模N,產(chǎn)生初始種群;(3)求N組網(wǎng)絡(luò)權(quán)系數(shù),得到具有相同結(jié)構(gòu)的N個網(wǎng)絡(luò);(4)求N組網(wǎng)絡(luò)權(quán)值對應(yīng)的N個網(wǎng)絡(luò)輸出;(5)網(wǎng)絡(luò)性能評價;(6)若不滿足評價條件,由對染色體進行遺傳選擇、變異和交叉操作,產(chǎn)生新的染色體,直到滿足評價函數(shù);(7)選擇一個最優(yōu)染色體作為網(wǎng)絡(luò)權(quán)重,進行網(wǎng)絡(luò)的訓練和評價。其工作流程如圖3所示。

三、應(yīng)用仿真算例

以中船公司的25家供應(yīng)商數(shù)據(jù)為基礎(chǔ),采用matlab7.0編程,建立三層遺傳神經(jīng)網(wǎng)絡(luò)模型。

將前15家供應(yīng)商作為訓練集,訓練該網(wǎng)絡(luò);其余10家供應(yīng)商作為測試集,模擬待評價的對象。設(shè)置誤差精度為0.00001。首先用遺傳算法,經(jīng)過450次優(yōu)化,得到全局最優(yōu)的網(wǎng)絡(luò)權(quán)值。然后以前15家供應(yīng)商的二級評價指標為樣本,經(jīng)過BP神經(jīng)網(wǎng)絡(luò)4700次訓練,得出對應(yīng)的6個一級評價指標的訓練樣本;再以所得出的輸出值為樣本,經(jīng)過BP神經(jīng)網(wǎng)絡(luò)4450次訓練,訓練出最終的遺傳神經(jīng)網(wǎng)絡(luò)模型,并用于綜合評價工作。輸入后10家供應(yīng)商二級評價指標值,得到其一級評價指標的輸出值,以該輸出值為輸入,計算出10家供應(yīng)商的綜合評價結(jié)果。見表。

四、結(jié)束語

基于遺傳神經(jīng)網(wǎng)絡(luò)的船舶供應(yīng)商評價模型借助BP神經(jīng)網(wǎng)絡(luò)的容錯性和自適應(yīng)自學習能力克服了傳統(tǒng)評價方法在指標權(quán)重賦值時存在的主觀隨意性問題,并用遺傳算法的優(yōu)化解決了BP存在的收斂速度慢的問題,為評價船舶供應(yīng)商提供了一條新的途徑。

參考文獻:

[1]金朝光 紀卓尚 林 焰:船舶企業(yè)選擇供應(yīng)商的策略研究[J]. 計算機集成制造系統(tǒng),2003,9(10):886~890

[2]馬士華 林 勇 陳志祥:供應(yīng)鏈管理[M].北京:機械工業(yè)出版,2004

神經(jīng)網(wǎng)絡(luò)前向傳播算法范文6

【關(guān)鍵詞】遺傳算法;BP神經(jīng)網(wǎng)絡(luò);柴油機;故障診斷

柴油機缸蓋振動信號中包含著豐富的工作狀態(tài)信息,在對其現(xiàn)代診斷技術(shù)中,基于振動信號分析的診斷方法顯示出了其優(yōu)越性,利用缸蓋振動信號診斷柴油機故障是一種有效方法。故障特征的提取和故障類型的識別是利用振動信號分析法在對柴油機進行故障診斷過程中兩個最為重要的過程。根據(jù)提取的故障特征識別柴油機的故障類型是一個典型的模式識別問題,對柴油機故障類型識別采用恰當?shù)哪J阶R別方法就尤為重要。神經(jīng)網(wǎng)絡(luò)作為一種自適應(yīng)的模式識別技術(shù),其通過自身的學習機制自動形成所要求的決策區(qū)域,而不需要預先給出有關(guān)模式的經(jīng)驗知識和判斷函數(shù);它可以充分利用狀態(tài)信息,對來自于不同狀態(tài)的信息逐一進行訓練而獲得某種映射關(guān)系。鑒于其自身特性,在故障模式識別領(lǐng)域中有著越來越廣泛的應(yīng)用。而據(jù)統(tǒng)計,有80%~90%的神經(jīng)網(wǎng)絡(luò)模型都是采用了BP網(wǎng)絡(luò)或者是它的變形。BP網(wǎng)絡(luò)是前向網(wǎng)絡(luò)的核心部分,是神經(jīng)網(wǎng)絡(luò)中最精華、最完美的部分。但是它也存在一些缺陷,例如學習收斂速度、不能保證收斂到全局最小點、網(wǎng)絡(luò)結(jié)構(gòu)不易確定。遺傳算法是一種基于生物自然選擇與遺傳機理的隨機搜索算法。其基本操作是選擇、交叉和變異,核心內(nèi)容是參數(shù)編碼、初始群體的設(shè)定、適應(yīng)度函數(shù)的設(shè)計、遺傳操作設(shè)計和控制參數(shù)的設(shè)定。遺傳算法通過種群隨機搜索,對數(shù)據(jù)進行并行處理,將結(jié)果收斂到全局最優(yōu)解。因此,將遺傳算法與BP神經(jīng)網(wǎng)絡(luò)結(jié)合應(yīng)用于柴油機故障診斷中,可以提高網(wǎng)絡(luò)的性能,避免網(wǎng)絡(luò)陷入局部極小解,進而實現(xiàn)對設(shè)備故障的識別。

1 BP神經(jīng)網(wǎng)絡(luò)

1.1 BP神經(jīng)元模型在柴油機故障診斷中的應(yīng)用

BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的傳遞是S型函數(shù),輸出量為0至1之間的連續(xù)量,它可以實現(xiàn)從輸入到輸出的任意非線性映射。由于權(quán)值的調(diào)整采用反向傳播學習算法,因此也稱為其為BP網(wǎng)絡(luò)。

圖1 BP神經(jīng)元模型

上圖給出一個基本的BP神經(jīng)元模型,它具有R個輸入,每個輸入都通過一個適當?shù)臋?quán)值和ω下一層相連,網(wǎng)絡(luò)輸入可表示為:

a=f(wp+b)

f就是表示輸入/輸出關(guān)系的傳遞函數(shù)。

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與所有影響齒輪故障的特征因素有關(guān)。柴油機運動部件多而復雜,激勵源眾多且其頻率范圍寬廣,加之噪聲的融入,使得柴油機表面振動信號極為復雜。基于這種特點,可以確定用于柴油機故障診斷的BP神經(jīng)網(wǎng)絡(luò)的輸入層、輸出層隱含層以及節(jié)點數(shù)等。由小波包提取各柴油機故障的特征值作為輸入節(jié)點,輸出節(jié)點數(shù)目與柴油機故障類別的數(shù)目有關(guān)。

1.2 BP神經(jīng)網(wǎng)絡(luò)與遺傳算法

BP神經(jīng)網(wǎng)絡(luò)又稱為反向傳播算法,其算法數(shù)學意義明確、步驟分明,是神經(jīng)網(wǎng)絡(luò)中最為常用、最有效、最活躍的一種網(wǎng)絡(luò)模型。常用方法梯度下降法和動量法,但是梯度下降法訓練速度較慢,效率比較低,訓練易陷入癱瘓,而且其實質(zhì)是單點搜索算法,不具有全局搜索能力;動量法因為學習率的提高通常比單純的梯度下降法要快一些,但在實際應(yīng)用中速度還是不夠;BP神經(jīng)網(wǎng)絡(luò)學習訓練開始時網(wǎng)絡(luò)的結(jié)構(gòu)參數(shù)是隨機給定的,因此結(jié)果存在一定的隨機性。

遺傳算法(Genetic Algorithm,GA)是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型,它是由美國密歇根大學的J.Holland 教授于1975年首先提出來的,遺傳算法具有很強的宏觀搜索能力和良好的全局優(yōu)化性能,因此將遺傳算法與BP神經(jīng)網(wǎng)絡(luò)結(jié)合,訓練時先用遺傳算法對神經(jīng)網(wǎng)絡(luò)的權(quán)值進行尋找,將搜索范圍縮小后,再利用BP網(wǎng)絡(luò)來進行精確求解,可以達到全局尋找和快速高效的目的,并且可以避免局部極小點問題。該算法不僅具有全局搜索能力,而且提高了局部搜索能力,從而增強了在搜索過程中自動獲取和積累搜索空間知識及自應(yīng)用地控制搜索的能力,從而使結(jié)果的性質(zhì)得以極大的改善。

2 基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)

遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)主要分為:BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定、遺傳算法優(yōu)化權(quán)值和閥值、BP神經(jīng)網(wǎng)絡(luò)訓練及預測。其中,BP神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)是根據(jù)樣本的輸入/輸出個數(shù)確定的,這樣就可以確定遺傳算法優(yōu)化參數(shù)的個數(shù),從而確定種群個體的編碼長度。因為遺傳算法優(yōu)化參數(shù)是BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閥值,只要網(wǎng)絡(luò)結(jié)構(gòu)已知,權(quán)值和閥值的個數(shù)就已知了。神經(jīng)網(wǎng)絡(luò)的權(quán)值和閥值一般是通過隨機初始化為[-0.5,0.5]區(qū)間的隨機數(shù),這個初始化參數(shù)對網(wǎng)絡(luò)訓練的影響很大,但是又無法準確獲得,對于相同的初始權(quán)重值和閥值,網(wǎng)絡(luò)的訓練結(jié)果是一樣的,引入遺傳算法就是為了優(yōu)化出最佳的初始權(quán)值和閥值。

2.1 基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)在柴油機故障診斷中的應(yīng)用

通過基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)建立小波包特征量與故障之間的對應(yīng)關(guān)系。表1為柴油機常見故障在不同頻段的能量分布,構(gòu)成了人工神經(jīng)網(wǎng)絡(luò)的訓練樣本。表2為網(wǎng)絡(luò)輸出樣本,“0”代表沒有故障,“1”代表發(fā)生故障。利用表1中的訓練樣本對基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)進行訓練,經(jīng)1000次訓練達到了理想訓練效果。

表1 訓練樣本

表2 網(wǎng)絡(luò)理想輸出

表3 待診斷的故障樣本

表4 診斷結(jié)果

將表3中的待診斷的故障樣本輸入到已經(jīng)訓練好的BP神經(jīng)網(wǎng)絡(luò),得到診斷結(jié)果如表4所示。第1組待診斷的信號第1個輸出節(jié)點接近1,可以根據(jù)訓練樣本結(jié)果判斷該組數(shù)據(jù)故障為供油提前角晚;第2組待診斷的信號第4個輸出節(jié)點接近1,根據(jù)訓練樣本結(jié)果可以判斷該組數(shù)據(jù)故障類型為供油提前角早;第3組待診斷的信號第7個數(shù)據(jù)節(jié)點接近1 ,可以判斷故障類型為針閥卡死,其診斷結(jié)果和現(xiàn)場勘查結(jié)果一致。

3 結(jié)語

遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的目的是通過遺傳算法得到更好的網(wǎng)絡(luò)初始值和閥值。通過以上研究可以看出,遺傳算法和BP算法有機的融合,可以有效地彌補BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、權(quán)值和閥值選擇上的隨機性缺陷,充分利用了遺傳算法的全局搜索能力和BP神經(jīng)網(wǎng)絡(luò)的局部搜索能力,克服了傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)柴油機故障診斷的缺點,提高了柴油機故障診斷的精度。

【參考文獻】

主站蜘蛛池模板: 亚洲老熟女与小伙bbwtv| 蜜桃一区二区三区| 久久成人网站| 一本无码人妻在中文字幕免费| 欧美成年网站色a| 日本理论片午午伦夜理片2021| 国产性一交一乱一伦一色一情| 久久香蕉国产线看观看怡红院妓院| 好了av第四综合无码久久| 真人新婚之夜破苞第一次视频| 久久aⅴ人妻少妇嫩草影院| 亚洲国产精品特色大片观看完整版| 国产精品午睡沙发系列| 亚洲一区波多野结衣在线| 97精品久久久大香线焦| 51国偷自产一区二区三区| 无码人妻精品一区二区三区9厂| 午夜福利1000集在线观看| 亚洲国产成人a精品不卡在线| 狂野欧美激情性xxxx在线观看| 久久久久久毛片免费播放| 美女极度色诱视频国产| 国产精品免费久久久久影院仙踪林| 一品二品三品中文字幕| 国自产精品手机在线观看视频| 国内精品久久久久伊人av| 人妻被黑人粗大的猛烈进出| 苍井空一区二区波多野结衣av| 蜜臀影视| 国产中年熟女高潮大集合| 大桥未久亚洲无av码在线| 久久久99久久久国产自输拍| 51国偷自产一区二区三区| 国产精品久久久久7777| 国产精品视频全国免费观看| 欧美肥婆性猛交xxxx| 国产三级久久久精品麻豆三级| 亚洲偷精品国产五月丁香麻豆| 国产亚洲日韩在线一区二区三区| 在线播放真实国产乱子伦| 无码国产精品一区二区免费i6|