前言:中文期刊網(wǎng)精心挑選了神經(jīng)網(wǎng)絡(luò)的局限性范文供你參考和學(xué)習(xí),希望我們的參考范文能激發(fā)你的文章創(chuàng)作靈感,歡迎閱讀。
神經(jīng)網(wǎng)絡(luò)的局限性范文1
關(guān)鍵詞: BP神經(jīng)網(wǎng)絡(luò);價(jià)格預(yù)測;歸一化處理
期貨市場是一個(gè)不穩(wěn)定的、非線性動(dòng)態(tài)變化的復(fù)雜系統(tǒng)。市場上期貨合約價(jià)格的變動(dòng)受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響,其過程具有非線性、混沌性、長期記憶性等特點(diǎn)。傳統(tǒng)的經(jīng)濟(jì)模型大部分是線性模型,具有一定的局限性.而人工神經(jīng)網(wǎng)絡(luò)則能很好地解決這個(gè)問題。
一、BP神經(jīng)網(wǎng)絡(luò)原理與過程
BP神經(jīng)網(wǎng)絡(luò)(反向傳播網(wǎng)絡(luò)Back Propagation)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的激活函數(shù)是sigmoid函數(shù),一般為log sigmoid 函數(shù)和tan sigoid 函數(shù),函數(shù)的圖形是S 型的,其值域是為0到1的連續(xù)區(qū)間。它是嚴(yán)格遞增函數(shù),在線性和非線之間有著較好的平衡性。
1.數(shù)據(jù)歸一化處理
數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測前對數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有數(shù)據(jù)都使其落在[0,1]或[-1,1]之間,其目的是取消各維數(shù)據(jù)間數(shù)量級(jí)差別。避免因?yàn)檩斎胼敵鰯?shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測誤差較大。數(shù)據(jù)歸一化的方法主要有以下兩種。
(1)平均數(shù)方差法,其公式如下:
2.BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程
BP網(wǎng)絡(luò)的學(xué)習(xí)過程由信號(hào)的正向傳播和誤差的反向傳播兩個(gè)過程組成。其基本原理是:網(wǎng)絡(luò)先根據(jù)輸出層的誤差來調(diào)整輸出層和隱含層的權(quán)值和閾值,再將部分誤差分配置隱含層,然后根據(jù)誤差來調(diào)整隱含層和輸入層之間的權(quán)值和閾值,并不斷地重復(fù)上述過程,直到網(wǎng)絡(luò)的輸出與目標(biāo)之間的誤差趨于最小,達(dá)到規(guī)定的要求。
一般地,BP網(wǎng)絡(luò)的學(xué)習(xí)算法描述為如下步驟。
(1)初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù),如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣,給出學(xué)習(xí)速率和神經(jīng)元激活函數(shù)等。
(2)提供訓(xùn)練模式,訓(xùn)練網(wǎng)絡(luò),直到滿足學(xué)習(xí)要求。
(3)前向傳播過程:對給定訓(xùn)練模式輸入,計(jì)算網(wǎng)絡(luò)的輸出模式,并與期望模式比較,若有誤差,若執(zhí)行步驟(4),否則,返回步驟(2)。
(4)反向傳播過程:計(jì)算同一層單元的誤差,修正權(quán)值和閾值,返回步驟(2)。
二、玉米期貨價(jià)格預(yù)測分析
美國是世界上玉米生產(chǎn)大國和消費(fèi)大國,良好的現(xiàn)貨基礎(chǔ)為美國玉米期貨市場的發(fā)展提供了優(yōu)越條件。其中,以CBOT為代表的美國玉米期貨市場同現(xiàn)貨市場有效接軌,不僅在美國內(nèi)玉米生產(chǎn)流通領(lǐng)域發(fā)揮了重要作用,而且在世界玉米市場上也影響巨大。
發(fā)現(xiàn)價(jià)格作為期貨市場的基本功能之一,CBOT作為全球最大的玉米期貨交易市場,其玉米期貨價(jià)格的國際影響力是非常巨大的。目前,在國際玉米市場上,玉米貿(mào)易價(jià)格的形成和交易活動(dòng)是以CBOT的玉米期貨價(jià)格為中心展開的,該價(jià)格是國際玉米貿(mào)易中簽約雙方需要考慮的最重要的依據(jù)之一。美國已經(jīng)通過芝加哥玉米期貨市場取得國際玉米貿(mào)易的定價(jià)權(quán),在國際玉米市場中發(fā)揮著主導(dǎo)作用,并且能夠?qū)Ρ緡推渌麌矣衩桩a(chǎn)業(yè)的發(fā)展產(chǎn)生深刻影響。
本文研究所采取的樣本來自WIND資訊金融終端,以2008年07月-2015年10月的CBOT的玉米期貨為研究對象。共計(jì)100組樣本數(shù)據(jù),將其中92組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發(fā),從期初庫存、產(chǎn)量、進(jìn)口、飼料消費(fèi)、國內(nèi)消費(fèi)總計(jì)、出口、期末庫存、總供給、貿(mào)易量共九個(gè)因素進(jìn)行分析研究,對玉米期貨的價(jià)格進(jìn)行預(yù)測。利用MATLAB軟件訓(xùn)練生成BP神經(jīng)網(wǎng)絡(luò)并進(jìn)行預(yù)測,將隱含層神經(jīng)元設(shè)為20個(gè),訓(xùn)練次數(shù)為100次,訓(xùn)練精度為0.00005。最后得到結(jié)果見表1。
從表1中可以看出,通過BP神經(jīng)網(wǎng)絡(luò)計(jì)算得出的預(yù)測值與實(shí)際值絕對誤差相對較小,這說明通過BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型產(chǎn)生的預(yù)測結(jié)果的精確度較高。具有較強(qiáng)的實(shí)用性。但是由于玉米期貨除了受到供需因素的影響外,同時(shí)還受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響。所以本文的結(jié)果還帶有一定的局限性。若把上述因素考慮進(jìn)去,其精確度可能進(jìn)一步提高。
三、結(jié)語
本文采用BP神經(jīng)網(wǎng)絡(luò)對美國玉米期貨的價(jià)格進(jìn)行了研究。使用了多因素BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型,對玉米期貨的價(jià)格進(jìn)行預(yù)測,得到了擬合度在較高的預(yù)測值。這說明BP神經(jīng)網(wǎng)絡(luò)方法可以對玉米期貨價(jià)格走勢進(jìn)行有效預(yù)測。通過預(yù)測,可以對投資者的投資行為進(jìn)行指導(dǎo),從而達(dá)到規(guī)避風(fēng)險(xiǎn)而獲取較好的經(jīng)濟(jì)利益。
參考文獻(xiàn):
神經(jīng)網(wǎng)絡(luò)的局限性范文2
關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);邊坡;穩(wěn)定性
引言
邊坡的穩(wěn)定性是目前巖土工程界研究的重大課題,在礦山工程、水利工程以及建筑工程等諸多領(lǐng)域都涉及到邊坡的穩(wěn)定性問題。邊坡工程是一個(gè)動(dòng)態(tài)開放的、復(fù)雜的、非線性的系統(tǒng)問題,影響邊坡穩(wěn)定性的因素不但有地質(zhì)和工程因素,而且還具有不確定性。目前,評(píng)價(jià)邊坡穩(wěn)定性的方法有層次分析法、灰色理論法、極限平衡法、有限元法等方法,但是這些方法難以擺脫人為因素的影響,計(jì)算復(fù)雜,具有一定的局限性。本文將人工神經(jīng)網(wǎng)絡(luò)的知識(shí)應(yīng)用到邊坡穩(wěn)定性的預(yù)測中,結(jié)合人工神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)上的分布式存儲(chǔ)和并行處理的特點(diǎn),使人工神經(jīng)網(wǎng)絡(luò)具有較好的容錯(cuò)性、高度非線性映射、以及自適應(yīng)、自組織學(xué)習(xí)的能力,從而能夠捕捉邊坡穩(wěn)定性與影響邊坡穩(wěn)定因素之間的相關(guān)規(guī)律,彌補(bǔ)傳統(tǒng)方法在預(yù)測邊坡穩(wěn)定性上面的不足,實(shí)現(xiàn)對邊坡穩(wěn)定性的可靠預(yù)測。
1 神經(jīng)網(wǎng)絡(luò)原理
人工神經(jīng)網(wǎng)絡(luò)ANN(artificial neural network)是屬于人工智能(artificial intelligence)范疇的一種計(jì)算技術(shù),它根據(jù)人們對生物神經(jīng)網(wǎng)絡(luò)的研究成果設(shè)計(jì)出來,具有良好的數(shù)學(xué)描述,可以方便地用計(jì)算機(jī)程序加以模擬。
目前,最常用的人工神經(jīng)網(wǎng)絡(luò)模型有線性神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)等,本文采用誤差信號(hào)反向傳播的BP神經(jīng)網(wǎng)絡(luò)對邊坡的穩(wěn)定性進(jìn)行研究。BP神經(jīng)網(wǎng)絡(luò)在訓(xùn)練時(shí),由信號(hào)的正向傳播和信號(hào)的反向傳播共同構(gòu)成神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程,其訓(xùn)練流程示意圖如圖 1 所示。
圖1 基于 BP 算法的神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)訓(xùn)練流程圖
2 神經(jīng)網(wǎng)絡(luò)模型建立及訓(xùn)練
2.1 輸入樣本和輸出樣本的選擇
基于BP人工神經(jīng)網(wǎng)絡(luò)的邊坡穩(wěn)定性預(yù)測模型的建立,首先是確定神經(jīng)網(wǎng)絡(luò)模型各層的節(jié)點(diǎn)個(gè)數(shù)。本文采用某礦山的邊坡工程實(shí)例進(jìn)行 BP 神經(jīng)網(wǎng)絡(luò)模型的有效檢驗(yàn),選取影響邊坡穩(wěn)定性的6個(gè)主控因素為輸入樣本,即:確定輸入變量為 D1—邊坡高度指標(biāo),D2—重度指標(biāo),D3—內(nèi)聚力指標(biāo),D4—摩擦角指標(biāo),D5—邊坡角指標(biāo),D6—孔隙壓力比指標(biāo)。
輸出向量是邊坡穩(wěn)定性狀態(tài)代碼,將邊坡穩(wěn)定性狀態(tài)代碼分為兩種類型:即1代表邊坡穩(wěn)定性狀態(tài)為破壞,0代表邊坡穩(wěn)定性狀態(tài)為穩(wěn)定。
2.2 模型的訓(xùn)練和預(yù)測
本文通過編寫程序語言,結(jié)合Matlab7.0來實(shí)現(xiàn)邊坡穩(wěn)定性的預(yù)測,應(yīng)用人工神經(jīng)網(wǎng)絡(luò)工具箱中的newff函數(shù)來建立一個(gè)前饋型的邊坡穩(wěn)定性預(yù)測網(wǎng)絡(luò)模型,在進(jìn)行網(wǎng)絡(luò)樣本訓(xùn)練時(shí),其中各參數(shù)的設(shè)定情況為:學(xué)習(xí)效率設(shè)為0.5,網(wǎng)絡(luò)訓(xùn)練的最大迭代次數(shù)為15000次,其收斂精度設(shè)置為0.001,采用隨機(jī)賦值的方法設(shè)定網(wǎng)絡(luò)訓(xùn)練中權(quán)值和閾值的初始值。網(wǎng)絡(luò)的輸入層和隱含層均采用對數(shù)型S型函數(shù)作為傳遞函數(shù)。通過BP神經(jīng)網(wǎng)絡(luò)信號(hào)誤差反向傳播算法所建立的邊坡穩(wěn)定性預(yù)測網(wǎng)絡(luò)模型,在樣本訓(xùn)練的過程中,當(dāng)網(wǎng)絡(luò)訓(xùn)練達(dá)到所設(shè)置的目標(biāo)精度或者滿足最大迭代次數(shù)時(shí),自動(dòng)停止訓(xùn)練。
本文收集整理了國內(nèi)外各類礦山及巖土工程中潛在或滑動(dòng)破壞模式為圓弧形滑落的穩(wěn)定邊坡和失穩(wěn)破壞邊坡實(shí)例共10個(gè)(破壞4,穩(wěn)定6)。根據(jù)提供信息包括邊坡結(jié)構(gòu)參數(shù),巖土體的物理力學(xué)性質(zhì)參數(shù),邊坡穩(wěn)定狀態(tài)及極限平衡法計(jì)算安全系數(shù)(表1)。輸入層的6個(gè)神經(jīng)元分別對應(yīng)參數(shù):重度、粘聚力、摩擦角、邊坡角、邊坡高度、孔隙壓力比。將10個(gè)樣本提供網(wǎng)絡(luò)學(xué)習(xí),經(jīng)922次迭代后網(wǎng)絡(luò)收斂。訓(xùn)練樣本的神經(jīng)網(wǎng)絡(luò)的計(jì)算結(jié)果見表2。網(wǎng)絡(luò)訓(xùn)練誤差曲線圖如圖2所示。
根據(jù)以上預(yù)測結(jié)果可知,預(yù)測精度達(dá)到了預(yù)定的要求0.001,預(yù)測結(jié)果與邊坡穩(wěn)定性的實(shí)際情況相符,本文建立的BP神經(jīng)網(wǎng)絡(luò)邊坡穩(wěn)定性預(yù)測模型預(yù)測效果較好,預(yù)測精度較高,能夠滿足實(shí)際工作的需要,輸出結(jié)果與現(xiàn)場情況吻合。
3 結(jié)論
人工神經(jīng)網(wǎng)絡(luò)將制約和影響邊坡穩(wěn)定的可直接取實(shí)測數(shù)據(jù)的定性因素包括邊坡結(jié)構(gòu)參數(shù)(高度、角度等)以及巖土體的物理力學(xué)性質(zhì)(粘聚力、摩擦角、干容重等)納入模型參與穩(wěn)定性評(píng)價(jià),借助計(jì)算軟件MATLAB編制計(jì)算程序加以實(shí)現(xiàn)。
實(shí)際應(yīng)用表明,神經(jīng)網(wǎng)絡(luò)模型由于具有很強(qiáng)的自學(xué)習(xí)、自組織的能力和高度非線形動(dòng)態(tài)處理能力,用來評(píng)價(jià)邊坡的穩(wěn)定性有較好的適用性,可以加以推廣應(yīng)用。
參考文獻(xiàn)
[1] 飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與MATLAB7實(shí)現(xiàn)[M]. 北京: 電子工業(yè)出版社, 2005: 97-116.
[2] 李春輝. 基于BP神經(jīng)網(wǎng)絡(luò)的煤與瓦斯突出危險(xiǎn)性預(yù)測的研究[D]. 昆明:昆明理工大學(xué), 2010: 40-58.
[3] 劉勇, 江成玉. 基于BP神經(jīng)網(wǎng)絡(luò)的煤與瓦斯突出危險(xiǎn)性的預(yù)測研究[J]. 潔凈煤技術(shù),2011(1): 97-100.
[4] 馮夏庭, 王泳嘉, 盧世宗. 邊坡穩(wěn)定性的神經(jīng)網(wǎng)絡(luò)估計(jì)[J].工程地質(zhì)學(xué)報(bào),1995(4): 54-61
[5] 侯殿昆, 宋秀琴, 劉景凡. 基于神經(jīng)網(wǎng)絡(luò)的多參數(shù)露天邊坡穩(wěn)定性分析[J]. 遼寧工程技術(shù)大學(xué)學(xué)報(bào), 2007, 26(5): 649-651.
[6] 鄒義懷, 江成玉, 李春輝. 人工神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性預(yù)測中的應(yīng)用[J]. 礦 冶, 2011, 20(4): 38-41.
神經(jīng)網(wǎng)絡(luò)的局限性范文3
【關(guān)鍵詞】 小波變換; 神經(jīng)網(wǎng)絡(luò); 模型; 預(yù)后
腫瘤患者預(yù)后是一個(gè)多因素相互作用的復(fù)雜問題,各因素之間一般為非線性關(guān)系。由于其間的函數(shù)關(guān)系解析形式難以把握腫瘤的多種類型以及多種相關(guān)因素,使得現(xiàn)有的預(yù)測在準(zhǔn)確性和實(shí)用性方面都存在著局限性。人工神經(jīng)網(wǎng)絡(luò)的成就表明它特別適合于處理不確定性和非結(jié)構(gòu)化信息,和統(tǒng)計(jì)模式識(shí)別方法相比,具有抗干擾能力強(qiáng)、能自適應(yīng)學(xué)習(xí)、能把識(shí)別處理和若干預(yù)處理融為一體來完成等優(yōu)點(diǎn),因此其應(yīng)用非常廣泛。P.B.Snow等用BP神經(jīng)網(wǎng)絡(luò)對結(jié)腸癌患者治療后的存活期進(jìn)行預(yù)測[1],其算法主要是利用梯度搜索技術(shù)使代價(jià)函數(shù)最小化。此類網(wǎng)絡(luò)存在一些局限性,如隱層單元數(shù)目難以確定、收斂速度較慢且有可能收斂于局部極小點(diǎn)等等。近年來,將小波變換與神經(jīng)網(wǎng)絡(luò)相結(jié)合構(gòu)成的小波神經(jīng)網(wǎng)絡(luò)(Wavelet neural networks, WNN)展示了良好的網(wǎng)絡(luò)性能[2~5]。利用WNN研究腸癌患者術(shù)后存活期預(yù)測問題,仿真結(jié)果表明該模型能較好地反映疾病程度與術(shù)后存活期之間的關(guān)系,因此在腫瘤患者術(shù)后存活期預(yù)測方面具有良好的應(yīng)用前景。
1 小波神經(jīng)網(wǎng)絡(luò)模型
WNN是近年來神經(jīng)網(wǎng)絡(luò)研究中的一個(gè)新的分支,是將小波變換理論與人工神經(jīng)網(wǎng)絡(luò)理論相結(jié)合而構(gòu)造的一種新的神經(jīng)網(wǎng)絡(luò)模型。WNN中第n個(gè)樣本的輸入為Xn={xni},i=1,2,…,L,網(wǎng)絡(luò)的輸入為Yn={ynk},k=1,2,…,S,對應(yīng)的目標(biāo)輸出為Dn={Dnk},k=1,2,…,S,n=1,2,…,N,N為樣本總數(shù)。輸出層單元數(shù)為S輸入層單元數(shù)為L,中間層為小波變換層(單元數(shù)目為M),Vji表示中間層第j單元與輸入層第i單元之間的連接權(quán),Ukj表示輸出層第k單元與中間層第j單元之間的連接權(quán)。利用當(dāng)前網(wǎng)絡(luò)參數(shù)計(jì)算的輸出為:Ynk=∑M
j=1UkjΨ∑L
i=1VjiXni-bj
aj(1)誤差函數(shù)E:E=1
2N∑N
n=1 ∑S
k=1(Ynk-Dnk)2(2)可以求出誤差函數(shù)E的各種導(dǎo)數(shù):E
Ukj=1
N ∑N
n=1(Ynk-Dnk)Ψ∑L
i=1VjiXni-bj
aj(3)E
Vji=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T Xni
aj(4)其中 T=∑L
i=1VjiXni-bj
ajE
aj=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T (-∑L
i=1VjiXni-bj
a2j)(5)E
bj=1
N ∑N
n=1 ∑S
k=1(Ynk-Dnk) UkjΨ(T)
T (-1
aj)(6)取Ψ(x)為Morlet小波,該小波為余弦調(diào)制的高斯波,時(shí)域頻域同時(shí)具有較高分辨率。Ψ(x)=cos(1.75x)exp(-x2
2)(7)則Ψ(x)
x=-[xcos(1.75x)+1.75sin(1.75x)]exp(-x2
2)(8)按共軛梯度下降學(xué)習(xí)算法有:Uii+1kj=Uiikj-αE
Uiikj+ε(Uiikj-Uii-1kj)(9)或?qū)懗桑害ii+1kj=-αE
Uikj+εΔUiikj(10)Uii+1kj=Uiikj+ΔUii+1kj(11)類似地可以給出Vii+1ji、aii+1j和bii+1j的迭代公式,按這些迭代公式逐次學(xué)習(xí),直至滿足誤差要求(或達(dá)到最大學(xué)習(xí)次數(shù))。
2 數(shù)據(jù)處理和結(jié)果
21 資料收集及處理病例資料取自徐州醫(yī)學(xué)院病理教研室1987~1997年外檢檔案中手術(shù)切除的結(jié)直腸癌標(biāo)本195例,對其進(jìn)行隨訪研究,獲得具有完整隨訪研究結(jié)果的病例資料65例。根據(jù)《全國大腸癌病理研究統(tǒng)一規(guī)范》的標(biāo)準(zhǔn)復(fù)查全部HE切片,觀察結(jié)直腸癌的組織學(xué)類型、生長方式、間質(zhì)纖維組織增生(有或無)和淋巴細(xì)胞浸潤等,進(jìn)行免疫組織化學(xué)實(shí)驗(yàn),檢測大腸癌患者的多種免疫組化因素。在此基礎(chǔ)上,建立患者病情診斷資料及手術(shù)標(biāo)本病理分析資料數(shù)據(jù)庫。包括患者的一般情況、部位、腫瘤大小、分期、組織學(xué)類型、生長方式、浸潤范圍、淋巴結(jié)轉(zhuǎn)移、免疫組化實(shí)驗(yàn)結(jié)果、其它病變等。對應(yīng)的輸出結(jié)果為隨訪所得的存活期。
22 WNN訓(xùn)練集的選擇按照用于訓(xùn)練WNN的數(shù)據(jù)集應(yīng)該能最大限度地兼顧各種病例的原則。經(jīng)過仔細(xì)篩選,取含有55個(gè)病例的集合構(gòu)成WNN的訓(xùn)練集,含有10個(gè)病例的集合構(gòu)成測試集。WNN輸入層有14個(gè)單元,具體的取值是通過數(shù)據(jù)編碼(對應(yīng)于無或有,陰性或陽性)和實(shí)驗(yàn)測試所得數(shù)據(jù)的歸一化處理將輸入數(shù)據(jù)變換到(0,1)區(qū)間。將隨訪所得存活期按是否超過5年為標(biāo)準(zhǔn)分為兩類,輸出為1個(gè)單元,輸出值分別為0(否)和1(是)。這樣就可以建立輸入輸出模式對,構(gòu)成網(wǎng)絡(luò)的訓(xùn)練集。
23 結(jié)果取WNN的各初始連接權(quán)、伸縮和平移參數(shù)為[-0.5,0.5]之間的隨機(jī)數(shù),學(xué)習(xí)參數(shù)為09,動(dòng)量參數(shù)為07,按WNN模型算法編程。輸入層有14個(gè)單元,輸出層有1個(gè)單元。取小波變換層單元個(gè)數(shù)為12時(shí)學(xué)習(xí)效果較好。根據(jù)計(jì)算結(jié)果,可以作出誤差函數(shù)E與學(xué)習(xí)次數(shù)K關(guān)系曲線,如圖1所示。經(jīng)260次學(xué)習(xí)訓(xùn)練,誤差降為000004997。
轉(zhuǎn)貼于
圖1 WNN網(wǎng)絡(luò)誤差函數(shù)E與學(xué)習(xí)次數(shù)K關(guān)系曲線(略)
對同樣的數(shù)據(jù)樣本集,用傳統(tǒng)BP網(wǎng)絡(luò)進(jìn)行對比研究,輸入層、隱層和輸出層單元數(shù)目分別為14、10、1。其誤差與學(xué)習(xí)次數(shù)關(guān)系曲線如圖2所示,誤差曲線中會(huì)存在較強(qiáng)震蕩和較長的平臺(tái),即網(wǎng)絡(luò)誤差的局部極小點(diǎn)。經(jīng)10000次學(xué)習(xí)訓(xùn)練,誤差為00124866。利用經(jīng)過如上所列學(xué)習(xí)訓(xùn)練過程后所得WNN模型進(jìn)行測試。首先對已學(xué)習(xí)過的55例訓(xùn)練樣本進(jìn)行測試,結(jié)果表明,對已學(xué)習(xí)過的樣本集,WNN模型預(yù)測成功率為100%;而對未經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的10例樣本,分別用WNN模型和BP網(wǎng)絡(luò)模型進(jìn)行測試,其結(jié)果如表1所示。如果以網(wǎng)絡(luò)輸出的最大絕對誤差不超過025為標(biāo)準(zhǔn),WNN模型有8例預(yù)測成功,準(zhǔn)確率為80%。BP網(wǎng)絡(luò)模型有7例預(yù)測成功,準(zhǔn)確率為70%。
圖2 BP網(wǎng)絡(luò)誤差與學(xué)習(xí)次數(shù)關(guān)系曲線(略)
表1 WNN模型和BP網(wǎng)絡(luò)模型對10例樣本的測試結(jié)果(略)
從上述結(jié)果可知,在人工神經(jīng)網(wǎng)絡(luò)腫瘤患者預(yù)后應(yīng)用方面,WNN模型學(xué)習(xí)收斂速率、預(yù)測成功率明顯優(yōu)于傳統(tǒng)BP模型。
3 討論
WNN能夠較好地綜合處理腸癌患者各項(xiàng)診斷指標(biāo)對其術(shù)后存活期的影響。利用該模型進(jìn)行腸癌患者術(shù)后存活期的預(yù)測,較好地符合了已知數(shù)據(jù),能反映疾病程度與術(shù)后存活期之間的關(guān)系。比起傳統(tǒng)的BP網(wǎng)絡(luò)來,WNN學(xué)習(xí)收斂速率快,并且可以自適應(yīng)地確定隱層單元數(shù)目。因此WNN為癌癥患者存活期預(yù)測提供了新的途徑。在傳統(tǒng)BP網(wǎng)絡(luò)中,存在隱層單元難以確定的不足,而WNN中間單元數(shù)目可以根據(jù)具體的問題自適應(yīng)地確定小波變換單元個(gè)數(shù),從而克服傳統(tǒng)網(wǎng)絡(luò)的不足。要進(jìn)一步提高預(yù)測精度,就應(yīng)該注意收集更多更全面的病例數(shù)據(jù)。如果我們所使用的數(shù)據(jù)越多越全面,其中所蘊(yùn)含的事物本身的規(guī)律性就越強(qiáng),利用WNN從中所抽取的函數(shù)關(guān)系就越具有普遍性,預(yù)測就更準(zhǔn)確。
參考文獻(xiàn)
1 P.B.Snow, D.J.Kerr, J.M.Brandt, et al. Neural network and regression predictions of 5year survival after colon carcinoma treatment. Cancer Supplement, 2001,91(8):1673~1678.
2 Pati Y, Krishnaprasad P. Analysis and synthesis of ef feedforward neural networks using discrete affine wavelet forms. IEEE Trans. On Neural Networks, 1993,4(1):73~85.
3 Zhang Q, Benveniste A. Wavelet networks. IEEE Trans. On Neural networks, 1992,3(6):889~898.
4 Delgon B, Juditsky A, Benveniste A. Accuracy analysis for wavelet approximations. IEEE Trans. On Neural Networks, 1995,6(2):332~348.
神經(jīng)網(wǎng)絡(luò)的局限性范文4
神經(jīng)網(wǎng)絡(luò)引入預(yù)測領(lǐng)域使預(yù)測理論及方法產(chǎn)生了質(zhì)的飛躍。傳統(tǒng)的線性預(yù)測方法,如自回歸(AutoRegressive, AR)模型、滑動(dòng)平均(Moving Average, MA)模型等在解決非線性嚴(yán)重的預(yù)測問題時(shí)遇到很大困難,而神經(jīng)網(wǎng)絡(luò)在非線性預(yù)測方面有著獨(dú)特的優(yōu)勢,它不需要建立復(fù)雜的非線性系統(tǒng)的顯式關(guān)系及數(shù)學(xué)模型,通過數(shù)據(jù)樣本訓(xùn)練即可提取數(shù)據(jù)特征和內(nèi)在規(guī)律,實(shí)現(xiàn)信息的分布存儲(chǔ),產(chǎn)生聯(lián)想記憶,從而對未經(jīng)訓(xùn)練的樣本能夠給出外推的預(yù)測效果,為非線性預(yù)測提供了強(qiáng)有力的工具。
1987年,A.Lapedes和R.Farber首次利用神經(jīng)網(wǎng)絡(luò)對非線性時(shí)間序列進(jìn)行預(yù)測,開創(chuàng)了神經(jīng)網(wǎng)絡(luò)應(yīng)用于預(yù)測領(lǐng)域的先河[1]。之后,神經(jīng)網(wǎng)絡(luò)在預(yù)測中的應(yīng)用得到快速發(fā)展。近年來,小波神經(jīng)網(wǎng)絡(luò)作為一種新穎的神經(jīng)網(wǎng)絡(luò)日益受到關(guān)注,它兼有小波函數(shù)時(shí)頻局部特性和神經(jīng)網(wǎng)絡(luò)函數(shù)逼近和泛化能力,在預(yù)測領(lǐng)域具有強(qiáng)大的優(yōu)勢。
目前,神經(jīng)網(wǎng)絡(luò)預(yù)測形式主要有兩種:趨勢預(yù)測與基于因果關(guān)系的回歸預(yù)測,分別對應(yīng)時(shí)間序列預(yù)測和多元回歸預(yù)測。神經(jīng)網(wǎng)絡(luò)具有分布式、聯(lián)想、記憶和很強(qiáng)的泛化能力,以及自學(xué)習(xí)和容錯(cuò)性,可以以任意精度逼近非線性函數(shù)等優(yōu)點(diǎn),是線性預(yù)測方法無法比擬的。對于大多數(shù)預(yù)測對象,尤其是含有非線性關(guān)系的數(shù)據(jù),使用神經(jīng)網(wǎng)絡(luò)預(yù)測都會(huì)得到更高的預(yù)測精度。
但是,神經(jīng)網(wǎng)絡(luò)應(yīng)用于預(yù)測中存在如下問題:網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)目前尚無確定的理論依據(jù);預(yù)測結(jié)果有隨機(jī)性;機(jī)理缺乏透明度;初始參數(shù)難確定;存在過度擬合現(xiàn)象;易陷入局部極小等。其中大多數(shù)問題需要以實(shí)驗(yàn)效果為依據(jù)進(jìn)行確定,利用統(tǒng)計(jì)方法對預(yù)測結(jié)果進(jìn)行評(píng)價(jià),或采用試湊法找出網(wǎng)絡(luò)“最佳”參數(shù)進(jìn)行下一步預(yù)測[2]。
在上述問題中比較突出的問題是神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果的隨機(jī)性,小波神經(jīng)網(wǎng)絡(luò)也不例外,即多次預(yù)測結(jié)果不同,有時(shí)分散性很大,即神經(jīng)網(wǎng)絡(luò)的預(yù)測精度具有不可控性質(zhì)。對此,在目前的文獻(xiàn)中鮮有介紹。本文針對小波神經(jīng)網(wǎng)絡(luò)給出一種簡單、實(shí)用的確定的預(yù)測方法,可以獲得穩(wěn)定的預(yù)測結(jié)果。
1預(yù)測結(jié)果的不確定因素
對神經(jīng)網(wǎng)絡(luò)預(yù)測模型進(jìn)行的大量實(shí)驗(yàn)表明:網(wǎng)絡(luò)初始參數(shù)對預(yù)測結(jié)果的影響舉足輕重[3-4]。當(dāng)網(wǎng)絡(luò)結(jié)構(gòu)確定后,即網(wǎng)絡(luò)輸入層、隱層、輸出層神經(jīng)元個(gè)數(shù),以及學(xué)習(xí)速率、訓(xùn)練精度等確定后,預(yù)測結(jié)果取決于網(wǎng)絡(luò)的初始參數(shù)值。初始參數(shù)包括網(wǎng)絡(luò)權(quán)值、閾值,對于小波神經(jīng)網(wǎng)絡(luò)還包括平移因子和尺度參數(shù)。
神經(jīng)網(wǎng)絡(luò)的初始參數(shù)通常都設(shè)為[-1,1]的隨機(jī)數(shù),它是導(dǎo)致預(yù)測結(jié)果不確定的本質(zhì)原因。在網(wǎng)絡(luò)結(jié)構(gòu)確定的前提下,如果初始參數(shù)設(shè)為定值,預(yù)測結(jié)果必然是唯一的。實(shí)驗(yàn)表明,對常用的三層神經(jīng)網(wǎng)絡(luò),影響最大的是網(wǎng)絡(luò)參數(shù)的初始值,之后是訓(xùn)練精度、隱層神經(jīng)元數(shù)、學(xué)習(xí)速率以及動(dòng)量因子等。
神經(jīng)網(wǎng)絡(luò)的局限性范文5
原理與方法
神經(jīng)網(wǎng)絡(luò)是一個(gè)具有高度非線性的超大規(guī)模連續(xù)時(shí)間動(dòng)力系統(tǒng)。是由大量的處理單元(神經(jīng)元)廣泛互連而形成的網(wǎng)絡(luò)。它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出的,反映了腦功能的基本特征。但它并不是人腦的真實(shí)描寫,而只是它的某種抽象、簡化與模擬。網(wǎng)絡(luò)的信息處理由神經(jīng)元之間的相互作用來實(shí)現(xiàn);知識(shí)與信息的存儲(chǔ)表現(xiàn)為網(wǎng)絡(luò)元件互連間分布式的物理聯(lián)系;網(wǎng)絡(luò)的學(xué)習(xí)和計(jì)算決定于各神經(jīng)元連接權(quán)系的動(dòng)態(tài)演化過程。因此神經(jīng)元構(gòu)成了網(wǎng)絡(luò)的基本運(yùn)算單元。每個(gè)神經(jīng)元具有自己的閾值。每個(gè)神經(jīng)元的輸入信號(hào)是所有與其相連的神經(jīng)元的輸出信號(hào)和加權(quán)后的和。而輸出信號(hào)是其凈輸入信號(hào)的非線性函數(shù)。如果輸入信號(hào)的加權(quán)集合高于其閾值,該神經(jīng)元便被激活而輸出相應(yīng)的值。在人工神經(jīng)網(wǎng)絡(luò)中所存儲(chǔ)的是單元之間連接的加權(quán)值陣列。
神經(jīng)網(wǎng)絡(luò)的工作過程主要由兩個(gè)階段組成,一個(gè)階段是工作期,此時(shí)各連接權(quán)值固定,計(jì)算單元的狀態(tài)變化,以求達(dá)到穩(wěn)定狀態(tài)。另一階段是學(xué)習(xí)期(自適應(yīng)期,或設(shè)計(jì)期),此時(shí)各計(jì)算單元狀態(tài)不變,各連接權(quán)值可修改(通過學(xué)習(xí)樣本或其他方法),前一階段較快,各單元的狀態(tài)亦稱短期記憶(STM),后一階段慢的多,權(quán)及連接方式亦稱長期記憶(LTM)〔1〕。
根據(jù)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)和學(xué)習(xí)規(guī)則可將人工神經(jīng)網(wǎng)絡(luò)分為多種類型,如不含反饋的前向神經(jīng)網(wǎng)絡(luò)、層內(nèi)有相互結(jié)合的前向網(wǎng)絡(luò)、反饋網(wǎng)絡(luò)、相互結(jié)合型網(wǎng)絡(luò)等〔2〕。本文的人工神經(jīng)網(wǎng)絡(luò)模型是采用BP算法的多層前饋網(wǎng)絡(luò)。
該模型的特點(diǎn)是信號(hào)由輸入層單向傳遞到輸出層,同一層神經(jīng)元之間互不傳遞信息,每個(gè)神經(jīng)元與鄰近層所有神經(jīng)元相連,連接權(quán)用Wij表示。各神經(jīng)元的作用函數(shù)為Sigmoid函數(shù),設(shè)神經(jīng)網(wǎng)絡(luò)輸入層的p個(gè)節(jié)點(diǎn),輸出層有q個(gè)節(jié)點(diǎn),k-1層的任意節(jié)點(diǎn)用l表示,k層的任意節(jié)點(diǎn)用j表示,k+1層的任意節(jié)點(diǎn)用l表示。Wij為k-1層的第i個(gè)神經(jīng)元與k層的第j個(gè)神經(jīng)元相連接的權(quán)值。k-1層的節(jié)點(diǎn)i輸出為O(k-1)i,k層節(jié)點(diǎn)j的輸出為:
k層節(jié)點(diǎn)j的輸出為:
Okj=f(netkj)
設(shè)訓(xùn)練樣本為(X,Ye),X為p維向量,加到輸入層;Ye為q維向量,對應(yīng)于期望輸出;網(wǎng)絡(luò)的實(shí)際輸出Y也是q維向量。網(wǎng)絡(luò)在接受樣本對的訓(xùn)練過程中,采用BP算法,其權(quán)值調(diào)整量為:
ΔWij=-ηδkjO(k-1)i
其中,對于輸出層為:
δkj=yj(1-yj)(yej-yj)
對于非輸出層為:
η為訓(xùn)練步長,取0<η<1。
用樣本集合反復(fù)訓(xùn)練網(wǎng)絡(luò),并不斷修改權(quán)值,直到使實(shí)際輸出向量達(dá)到要求,訓(xùn)練過程結(jié)束〔3〕。
上述人工神經(jīng)網(wǎng)絡(luò)可以完成多種信息處理任務(wù),如從二進(jìn)制數(shù)據(jù)中提取相關(guān)知識(shí),完成最近鄰模式分類,實(shí)現(xiàn)數(shù)據(jù)聚集等。而本文要用的是其極強(qiáng)的數(shù)學(xué)逼近映射能力,即開發(fā)合適的函數(shù)f:ARnBRn,以自組織的方式響應(yīng)以下的樣本集合:(x1,y1),(x2,y2)…,(xm,ym),其中yi=f(xi)。這里描述的是一般的數(shù)學(xué)抽象,像識(shí)別與分類這些計(jì)算都可以抽象為這樣的一種近似數(shù)學(xué)映射。
所謂診斷,實(shí)質(zhì)上是一個(gè)分類問題。即根據(jù)候診者的癥狀,醫(yī)學(xué)檢查結(jié)果(如體溫、心跳等)等一些情況,它們可以用一向量(e1,e2,…,em)來表示,將其歸類為病人或非病人。這也可以轉(zhuǎn)化為尋找一差別函數(shù)f使得:
(1)f(e1,e2,…,em)>ε,(e1,e2,…,em)∈T
(2)f(e1,e2,…,em)>ε,(e1,e2,…,em)T
其中集合T表示患病。
因此,病情診斷最終也可作為一類函數(shù)的逼近問題。
而許多研究已表明,前向神經(jīng)網(wǎng)絡(luò)可作為非線性逼近的標(biāo)準(zhǔn)型。對于實(shí)數(shù)空間的任一函數(shù),只要它滿足一定的條件,一定存在唯一的具有單一隱層的前向網(wǎng)絡(luò)作為它的最優(yōu)最佳逼近。而含有兩個(gè)隱含層的前向網(wǎng)絡(luò)可在任意的平方誤差內(nèi)逼近某一實(shí)函數(shù)〔3〕。
診斷步驟
肺癌病例數(shù)據(jù)選自1981~1994年在某醫(yī)院住院的病人,共計(jì)551例。其中486例(88%)經(jīng)病理學(xué)、細(xì)胞學(xué)診斷證實(shí)為肺癌。每一病例都包括多項(xiàng)數(shù)據(jù),其中用于診斷的數(shù)據(jù)項(xiàng)有:病人的一般情況(如年齡、性別等),家族史、既往史、吸煙史、術(shù)后病理、X射線檢查、CT檢查、纖維支氣管鏡檢查、PAT痰檢等多達(dá)58項(xiàng)。因此,原則上58項(xiàng)數(shù)據(jù)應(yīng)作為神經(jīng)網(wǎng)絡(luò)的輸入項(xiàng),而神經(jīng)網(wǎng)絡(luò)的輸出值就是病人是否患肺癌的結(jié)果。
1.網(wǎng)絡(luò)訓(xùn)練集的確定:在最原始的551例病人數(shù)據(jù)中存在著各種各樣的差別,如性別差異(419例男性,132例女性),診斷結(jié)果的差異(486例經(jīng)證實(shí)為肺癌),所患肺癌種類的差異(鱗癌、小細(xì)胞癌、大細(xì)胞癌等),患病程度上的差異(早、中晚期的不同)等等。顯然,訓(xùn)練數(shù)據(jù)集應(yīng)最大限度地保證兼顧各種病例情況。經(jīng)過仔細(xì)篩選,選擇了含有460個(gè)病例的集合作為肺癌診斷用的網(wǎng)絡(luò)的訓(xùn)練集。
2.神經(jīng)網(wǎng)絡(luò)輸入和輸出數(shù)據(jù)的預(yù)處理
按照人工神經(jīng)網(wǎng)絡(luò)的理論,神經(jīng)網(wǎng)絡(luò)的輸入輸出數(shù)據(jù)都應(yīng)該屬于(0,1)區(qū)間的實(shí)數(shù),為此我們需對原始數(shù)據(jù)進(jìn)行如下的規(guī)一化處理:
其中xi為原始數(shù)據(jù)項(xiàng),而Max=max{xi∶xi∈X},Min=min{xi∶xi∈X}。這里X為原始數(shù)據(jù)集。經(jīng)過(7)式變換后,yi將在(0,1)區(qū)間。因此,可作為神經(jīng)網(wǎng)絡(luò)的輸入輸出。
3.應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行肺癌診斷
將描述病人各種情況的數(shù)據(jù)作為前向網(wǎng)絡(luò)的輸入數(shù)據(jù)加到其輸入端,并按(1)~(6)式計(jì)算各神經(jīng)元的輸入和輸出,同時(shí)調(diào)整神經(jīng)元之間的連接權(quán)值以使網(wǎng)絡(luò)的輸出和實(shí)際的病例情況相符。即當(dāng)病人確實(shí)患肺癌時(shí)網(wǎng)絡(luò)的輸出結(jié)果也恰好指示為肺癌,反之亦然。如果對所有的訓(xùn)練樣本集網(wǎng)絡(luò)的輸出基本上(95%或更高)能保證與實(shí)際結(jié)果一致,則訓(xùn)練過程結(jié)束。我們認(rèn)為神經(jīng)網(wǎng)絡(luò)已建立起病人的各種因素與他是否是肺癌患者之間的函數(shù)映射關(guān)系。對于一個(gè)新的候診病人來說,只要將他的情況輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中去,根據(jù)網(wǎng)絡(luò)的輸出結(jié)果就可以知道他是否已患肺癌。
表1基于不同發(fā)病因素的診斷網(wǎng)絡(luò)模型
類型訓(xùn)練集精度測試集精度
基于遺傳因素的診斷網(wǎng)53.8%46.3%
基于個(gè)人生活習(xí)慣的診斷網(wǎng)57.1%44.9%
基于病癥的診斷網(wǎng)89.4%83.3%
基于醫(yī)學(xué)檢查結(jié)果的診斷網(wǎng)98.5%92.6%
上述結(jié)果表明不同類型的因素應(yīng)分開來考慮。于是我們將58項(xiàng)輸入數(shù)據(jù)分成四類,這四類有各自的BP診斷網(wǎng),依次稱為診斷一、診斷二、診斷三、診斷四。它們先單獨(dú)測定,然后再將它們各自的結(jié)果綜合起來得出最后的判斷。
上述四種診斷網(wǎng)絡(luò)所得結(jié)果的可靠性各不相同。其中,根據(jù)醫(yī)學(xué)檢查結(jié)果所作的診斷準(zhǔn)確性最高,因此在最后的綜合分析中要重點(diǎn)考慮它的診斷結(jié)果,我們給它設(shè)一個(gè)相對最高的權(quán)值。其次,根據(jù)病人的癥狀所作的診斷往往也具有較高的準(zhǔn)確性,因此給它的權(quán)值也較高,但比醫(yī)學(xué)檢查結(jié)果的稍低。其他兩類因素在有關(guān)肺癌的診斷中僅具參考作用,因而所設(shè)的權(quán)值相對較小。轉(zhuǎn)
最后的結(jié)果O為:
O=a1.O1+a2.O2+a3.O3+a4.O4
a1+a2+a3+a4=1
其中Oi,ai,i=1,2,3,4分別為各診斷網(wǎng)的輸出及其對應(yīng)的權(quán)值。
當(dāng)O>0.5時(shí)最后的診斷結(jié)果為患肺癌,反之則正常。對所有的病例數(shù)據(jù)經(jīng)上述方法的診斷結(jié)果見表2。
表2神經(jīng)網(wǎng)絡(luò)對肺癌診斷結(jié)果分析
神經(jīng)網(wǎng)絡(luò)
診斷結(jié)果訓(xùn)練數(shù)據(jù)測試數(shù)據(jù)
肺癌患者非肺癌患者肺癌患者非肺癌患者
+4602253
-038122
其中對于訓(xùn)練集,肺癌病人的正確檢出率為100%,非肺癌病人誤診率為5%。對于測試集,肺癌病人的正確檢出率為96.2%;非肺癌患者正確檢出率為88%,誤診率為12%。
討論
1.本研究所采用的人工神經(jīng)網(wǎng)絡(luò)的肺癌診斷方法的結(jié)果較好地符合了已知數(shù)據(jù),具有較高的準(zhǔn)確性,特別是對于肺癌患者一般都能準(zhǔn)確地做出診斷,有利于肺癌的早期發(fā)現(xiàn)和治療。
2.要想進(jìn)一步提高該方法的準(zhǔn)確性,應(yīng)該注意收集更多更全面的病例數(shù)據(jù)。人工神經(jīng)網(wǎng)絡(luò)主要是利用它能自動(dòng)從數(shù)據(jù)集中抽取函數(shù)的關(guān)系的功能。如果我們所使用的數(shù)據(jù)越多越全面,則其中所蘊(yùn)含的事物本身的規(guī)律性就越強(qiáng),利用人工神經(jīng)網(wǎng)絡(luò)從中所抽取的函數(shù)關(guān)系就越具有普遍性,因而就更準(zhǔn)確。
3.實(shí)現(xiàn)對肺癌的診斷的關(guān)鍵在于準(zhǔn)確找到罹患肺癌的判定函數(shù),可利用前向網(wǎng)絡(luò)的函數(shù)逼近功能來實(shí)現(xiàn)。但是這里涉及到兩個(gè)問題。首先,由于差別函數(shù)和預(yù)測率函數(shù)都是利用人工神經(jīng)網(wǎng)絡(luò)從已知的病例數(shù)據(jù)集中抽取出來的,它實(shí)際反映的是這些數(shù)據(jù)集中輸入輸出對的映射關(guān)系。因此要想保證診斷具有較高的準(zhǔn)確性,就應(yīng)該使用來建立函數(shù)關(guān)系的這些數(shù)據(jù)集(稱訓(xùn)練集)具有充分的代表性,即這些數(shù)據(jù)應(yīng)基本蘊(yùn)含肺癌診斷的醫(yī)學(xué)原理。這就涉及到如何選擇網(wǎng)絡(luò)合理的訓(xùn)練集及關(guān)鍵的輸入項(xiàng)。另一個(gè)問題涉及到神經(jīng)網(wǎng)絡(luò)本身的要求,即網(wǎng)絡(luò)的輸入輸出數(shù)據(jù)值都應(yīng)在區(qū)間(0,1)中。這可以通過數(shù)據(jù)的編碼和歸一化來實(shí)現(xiàn)。
4.由于某些原因有些病人的病例數(shù)據(jù)不完整,約占總病例數(shù)據(jù)的10%左右。顯然,如果按照傳統(tǒng)的方法來建立肺癌病人的診斷模型〔4〕,這些有缺項(xiàng)的數(shù)據(jù)是不太好處理的,但是由于人工神經(jīng)網(wǎng)絡(luò)有較強(qiáng)的容錯(cuò)性,輸入數(shù)據(jù)在某些項(xiàng)上的錯(cuò)誤對網(wǎng)絡(luò)最終結(jié)果的正確性影響不大。
參考文獻(xiàn)
1.焦李成.神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論.第1版.西安:西安電子科技大學(xué)出版社,1995,3
2.WangZhenni,ThamMingT,MorrisA.MultilayerFeedforwardNeuralNetworks:ACanonicalformApproximationofNonlinearity,IntJ.Control,1992,56(3):655~672.
神經(jīng)網(wǎng)絡(luò)的局限性范文6
【關(guān)鍵詞】智能技術(shù);電力系統(tǒng)自動(dòng)化;應(yīng)用
當(dāng)前,常見的幾種智能技術(shù),在電力系統(tǒng)自動(dòng)化控制中的引入運(yùn)用,解決了傳統(tǒng)方法難以解決的復(fù)雜系統(tǒng)的控制問題,從而有效提高電力系統(tǒng)自動(dòng)化控制的適應(yīng)性,降低控制系統(tǒng)的造價(jià)成本。
1.電力系統(tǒng)自動(dòng)化的簡述
為確保電力系統(tǒng)安全、平穩(wěn)、經(jīng)濟(jì)運(yùn)行,對電力系統(tǒng)的各個(gè)元件、局部、全系統(tǒng),采用具有自動(dòng)檢測、決策和控制功能的裝置,通過信號(hào)和數(shù)據(jù)傳輸?shù)南到y(tǒng),就地或遠(yuǎn)距離進(jìn)行自動(dòng)監(jiān)視、調(diào)節(jié)和控制等,從而達(dá)到合格的電能質(zhì)量。在一般的情況下,電力自動(dòng)化系統(tǒng)主要構(gòu)成有調(diào)度自動(dòng)化、變電站自動(dòng)化和配電網(wǎng)自動(dòng)化。
2.電力系統(tǒng)自動(dòng)化中的智能技術(shù)
智能技術(shù)是具備學(xué)習(xí)、適應(yīng)及組織功能的行為,能夠?qū)τ趩栴}產(chǎn)生合適求解問題的響應(yīng),解決傳統(tǒng)魯棒性控制和自適應(yīng)控制無法解決出令人滿意結(jié)果的,非線性、時(shí)變性和不確定性的控制問題。目前,智能技術(shù)尚處于發(fā)展階段,但它已受到人們的普遍重視,廣泛應(yīng)用到電力系統(tǒng)各個(gè)領(lǐng)域中,并取得了一定的實(shí)效。
2.1專家系統(tǒng)的控制技術(shù)
專家系統(tǒng)在電力系統(tǒng)中的應(yīng)用范圍很廣,它是一種基于知識(shí)的系統(tǒng),用于智能協(xié)調(diào)、組織和決策,激勵(lì)相應(yīng)的基本級(jí)控制器完成控制規(guī)律的實(shí)現(xiàn)。主要針對各種非結(jié)構(gòu)化問題,處理定性的、啟發(fā)式或不確定的知識(shí)信息。如:電力系統(tǒng)恢復(fù)控制、故障點(diǎn)的隔離、調(diào)度員培訓(xùn)、處于警告或緊急狀態(tài)的辨識(shí)、配電系統(tǒng)自動(dòng)化等。以智能的方式求得受控系統(tǒng)盡可能地優(yōu)化和實(shí)用化,并經(jīng)過各種推理過程達(dá)到系統(tǒng)的任務(wù)目標(biāo)。雖然取得到廣泛應(yīng)用,但存在如難以模仿電力專家的創(chuàng)造性等局限性。一般而言,專家控制系統(tǒng)應(yīng)用比較大的原因還因?yàn)檫@種方法可適用范圍廣,而且能夠?yàn)殡娏ο到y(tǒng)處于各種狀態(tài)提出辨識(shí),根據(jù)這種具體情況來給出警告或是提示,在這樣的情況還能夠進(jìn)行控制和恢復(fù)。雖然專家系統(tǒng)得到一定的應(yīng)用,但是還是存在一定的局限,這種局限包括對于創(chuàng)造性的難以模仿,而只是對于淺層知識(shí)的應(yīng)用,缺乏很有效的深層的模仿和方針,對于復(fù)雜的模擬就難以適應(yīng)。因此,在開發(fā)專家系統(tǒng)方面應(yīng)注意專家系統(tǒng)的代價(jià)/效益分析方法問題,專家系統(tǒng)軟件的有效性和試驗(yàn)問題,知識(shí)獲取問題,專家系統(tǒng)與其他常規(guī)計(jì)算工具相結(jié)合等問題。
2.2模糊邏輯的控制技術(shù)
模糊方法是一種對系統(tǒng)宏觀的控制,十分簡單且易于掌握,為隨機(jī)、非線性和不確定性系統(tǒng)的控制,提供了良好的途徑。將人的操作經(jīng)驗(yàn)用模糊關(guān)系來表示,通過模糊推理和決策方法,來對復(fù)雜過程對象進(jìn)行有效控制。通常用“如果…,則…”的方式來表達(dá)在實(shí)際控制中的專家知識(shí)和經(jīng)驗(yàn),不依賴被控對象模型、魯棒性較強(qiáng)的。模糊控制技術(shù)的應(yīng)用非常廣泛,與常規(guī)控制相比,模糊控制技術(shù)在提高模糊控制的控制品質(zhì),如:穩(wěn)態(tài)誤差、超調(diào)等問題,自身的學(xué)習(xí)能力還不完善,要求系統(tǒng)具有完備的知識(shí),這對工業(yè)智能系統(tǒng)的設(shè)計(jì)是困難的。如模糊變結(jié)構(gòu)控制,自適應(yīng)或自組織模糊控制,自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制,神經(jīng)網(wǎng)絡(luò)變結(jié)構(gòu)控制等。另一方面包含了各種智能控制方法之間的交叉結(jié)合,對電力系統(tǒng)這樣一個(gè)復(fù)雜的大系統(tǒng)來講,綜合智能控制更有巨大的應(yīng)用潛力。現(xiàn)在,在電力系統(tǒng)中研究得較多的有神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合,專家系統(tǒng)與模糊控制的結(jié)合,神經(jīng)網(wǎng)絡(luò)與模糊控制的結(jié)合,神經(jīng)網(wǎng)絡(luò)、模糊控制與自適應(yīng)控制的結(jié)合等方面。這些模糊方法的運(yùn)用因其可使用范圍廣,目前已經(jīng)在自動(dòng)化控制中被廣泛應(yīng)用。
2.3神經(jīng)網(wǎng)絡(luò)的控制技術(shù)
神經(jīng)網(wǎng)絡(luò)是一種介于符號(hào)推理與數(shù)值計(jì)算之間,適合用作智能控制的數(shù)學(xué)工具。神經(jīng)網(wǎng)絡(luò)從m維空間到n維空間,復(fù)雜的非線性映射、學(xué)習(xí)能力為解決復(fù)雜的非線性系統(tǒng)控制問題,提供了有效的途徑。在神經(jīng)網(wǎng)絡(luò)中,知識(shí)是通過學(xué)習(xí)例子分布存儲(chǔ),當(dāng)個(gè)別處理單元損壞時(shí),不會(huì)影響整個(gè)系統(tǒng)的正常工作,是對非線性系統(tǒng)具有最好的控制性能。目前,主要集中在神經(jīng)網(wǎng)絡(luò)模型、結(jié)構(gòu)、學(xué)習(xí)算法的研究,硬件的實(shí)現(xiàn)等。
2.4線性最優(yōu)控制技術(shù)
線性最優(yōu)控制技術(shù)是現(xiàn)代控制重要組成部分。目前,在大型機(jī)組方面,直接用最優(yōu)勵(lì)磁控制手段代替古典勵(lì)磁方式,不但提高了遠(yuǎn)距離輸電線路輸電能力,而且同時(shí)改善動(dòng)態(tài)的品質(zhì)。另外,在發(fā)電機(jī)制動(dòng)電阻的最優(yōu)時(shí)間控制方面,最優(yōu)控制技術(shù)也獲得了成功的應(yīng)用。它是諸多現(xiàn)代控制技術(shù)中應(yīng)用最多、最為成熟的一個(gè)分支。
2.5綜合智能控制技術(shù)
綜合智能控制重要的技術(shù)發(fā)展方向是智能集成化。一方面,可將多項(xiàng)智能技術(shù)相互結(jié)合于一體,不在單獨(dú)運(yùn)用,各取優(yōu)勢。如模糊技術(shù)和神經(jīng)網(wǎng)絡(luò)的結(jié)合,神經(jīng)網(wǎng)絡(luò)與模糊控制的結(jié)合,神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合等,這些都在電力系統(tǒng)自動(dòng)化控制中研究的較多,如可用神經(jīng)網(wǎng)絡(luò)與模糊邏輯良好結(jié)合的技術(shù)基礎(chǔ),去處理同一系統(tǒng)內(nèi)的問題,神經(jīng)網(wǎng)絡(luò)處理非結(jié)構(gòu)化信息,模糊系統(tǒng)處理結(jié)構(gòu)化的知識(shí)等。另一方面,自動(dòng)化控制智能技術(shù)與傳統(tǒng)的自適應(yīng)控制的結(jié)合,如:神經(jīng)網(wǎng)絡(luò)、模糊控制與自適應(yīng)控制的結(jié)合等。目前,國內(nèi)已有控制專家已著手發(fā)展研究,既能有效處理模糊知識(shí)又能有效學(xué)習(xí)的模糊與神經(jīng)網(wǎng)絡(luò)集成技術(shù),這必將為電力系統(tǒng)智能控制的發(fā)展提供新的途徑。
3.結(jié)束語
當(dāng)前,像電力系統(tǒng)這樣一類復(fù)雜的不確定性工業(yè)過程,對其有效控制,關(guān)鍵在于自動(dòng)化控制智能技術(shù)應(yīng)具有較強(qiáng)的知識(shí)處理能力,包含知識(shí)學(xué)習(xí)和利用,推理和決策等方面。在未來電力系統(tǒng)的發(fā)展進(jìn)程中,隨著計(jì)算機(jī)的廣泛應(yīng)用,控制技術(shù)的深入研究,自動(dòng)化控制智能技術(shù)將朝著全面智能化的方向發(fā)展。從而實(shí)現(xiàn)智能性工作環(huán)境,減少人員的值守,甚至于無人值班。同時(shí),也有效的促進(jìn)與提高電力系統(tǒng)平穩(wěn)、安全和經(jīng)濟(jì)的運(yùn)行。
【參考文獻(xiàn)】