前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇神經網絡的思想范文,相信會為您的寫作帶來幫助,發現更多的寫作思路和靈感。
關鍵詞:風速;短期預測;相似數據;小波分析;人工神經網絡
1 引言
隨著風電場并網運行規模的增大,國內外對于風力發電并網各種課題的研究越來越深入,但關于風電場發電功率預測的研究還達不到令人滿意的程度,預測誤差一般都在15%以上[1]。
采用的方法通常包括持續法、卡爾曼濾波法、隨機時間序列法、神經網絡法。其中,人工神經網絡法進行風速或風電功率預測應用得最廣。文獻[2-3]都利用小波―BP神經網絡進行建模,但訓練樣本沒有相關性,預測精度偏低。文獻[4-5]利用改進的BP神經網絡建模,雖然運行時間縮短,但是在數據相關性和數據去噪處理方面欠缺,導致精度不高。因此,本文建立了基于相似數據并結合小波分析的BP神經網絡建模。
2 基于相似數據并結合小波分析的BP神經網絡建模
2.1 相似數據選擇辦法
2.3 反向傳播(BP)神經網絡
2.4 仿真實驗建模
3 算法對比分析
從圖4可得出,BP神經網絡模型的平均相對誤差為20.77%,而本模型為10.21%。因此,采用本模型建模得到的相對誤差較傳統的BP神經網絡模型預測精度有很大的提高。
4 結論
針對風力發電中風速預測問題,本文在BP神經網絡理論的基礎上引入相似數據并結合小波分解進行短期風速預測,得到如下結論:
⑴相似數據的選取增強了數據的相關性,提高了模型預測精度。
⑵小波分解降低了信號的非平穩性,使模型更好地擬合了風速信號的低頻和高頻特性,可進一步提高算法精度。
⑶通過對算法對比分析,表明本模型較傳統BP神經網絡模型誤差小,充分地說明此方法在工程應用上具有可行性。
[參考文獻]
[1]楊秀媛,肖洋,陳樹勇.風電場風速和發電功率預測研究[J].中國電機工程學報,2005,25(11):1-5.
[2]師洪濤,楊靜玲,丁茂生,王金梅.基于小波―BP神經網絡的短期風電功率預測方法[J].電力系統自動化,2011,35(16):44-48.
[3]厲衛娜,蘇小林.基于小波- 神經網絡的短期風電功率預測研究[J].電力學報,2011,26(6):458-461.
[4]王德明,王莉,張廣明.基于遺傳BP神經網絡的短期風速預測模型[J]. 浙江大學學報(工學版),2012,46(5):837-841.
人工神經網絡是由大量的簡單基本元件-神經元相互聯接而成的自適應非線性動態系統。每個神經元的結構和功能比較簡單,但大量神經元組合產生的系統行為卻非常復雜。人工神經網絡的基本結構模仿人腦,反映了人腦功能的若干基本特性,能夠自身適應環境、總結規律、完成某種運算、識別或過程控制。人工神經網絡具有并行處理特征,可以大大提高工作速度。
人工神經網絡的特點和優越性,主要表現在三個方面:
第一,具有自學習功能。
第二,具有聯想存儲功能。
第三,具有高速尋找優化解的能力。
1 神經網絡的學習方法
神經網絡的學習也稱為訓練,指的是神經網絡在外界環境的刺激作用下調整網絡自由參數,并以新的方式來響應外部環境的過程。能夠從環境中學習并在學習中提高自身性能是神經網絡最有意義的性質。理想情況下,神經網絡在每一次重復學習后,對它的環境有了更多的了解。
(1) 監督學習(有教師學習)
在學習時需要由教師提供期望輸出,通常神經網絡對于周圍的環境未知而教師具有周圍環境的知識,輸入學習樣本,教師可以根據自身的知識為訓練樣本提供最佳逼近結果,神經網絡的自由參數在誤差信號的影響下進行調整,其最終目的是讓神經網絡模擬教師。
(2) 非監督學習(無教師學習)
它也稱為自組織學習,系統在學習過程中,沒有外部教師信號,而是提供給一個關于網絡學習性質的度量,它獨立于學習任務,以此尺度來逐步優化網絡,一旦網絡與輸入數據的統計規律達成一致,那么它將發展形成用于輸入數據編碼特征的內部表示能力,從而自動創造新的類別。
(3)強化學習(激勵學習)
在強化學習系統中,對輸入輸出映射的學習是通過與外部環境的不斷交互作用來完成學習,目的是網絡標量函數值最小,即外部環境對系統輸出結果只給出評價信息(獎或罰)而不是給出正確答案,學習通過強化那些受獎的動作來改善自身性能。
神經網絡針對學習問題修改網絡自由參數的過程稱為學習規則(學習算法),設計學習規則的目的是訓練網絡來完成某些任務,沒有一個獨特的學習規則可以完成所有的學習任務。神經網絡有5個基本的學習規則:誤差--修正學習,基于記憶的學習,Hebb學習,競爭學習,隨機學習。
2 神經網絡的研究趨勢
(1) 利用神經生理與認知科學研究大腦思維模式及智能機理過程
深入研究神經網絡理論神經網絡在一定程度上揭示人類智能和了解人腦的工作方式,由于人類對神經系統的了解非常有限,而且對其自身腦結構及其活動機理的認識不完善,故而神經網絡只能是模仿人腦的局部功能,而對人腦作為一個整體的功能解釋,神經網絡起不到任何作用。神經科學,心理學和認識科學等方面提出的一些重大問題,是向神經網絡理論研究提出的新挑戰,這些問題的解決有助于完善和發展神經網絡理論,因此利用神經生理和認知科學研究大腦思維及智能機理,如有新的突破將會改變智能和機器關系的認識。
(2) 神經網絡領域的數學研究趨于重要
隨著神經科學基礎理論研究的深入,用數理方程探索智能水平更高網絡模型將是研究的趨勢所在,神經元以電為主的生物過程在認識上一般采用非線性動力學模型,其動力演變過程往往是非常復雜的,神經網絡這種強的生物學特征和數學性質,要求有更好的數學手段,而對于神經網絡這樣非線性模型,需要用數學方法研究網絡新的算法和網絡性能,如穩定性、收斂、容錯性、魯棒性等,開發新的網絡數理理論,如神經動力學、非線性神經場等。研究人員斷言一種更簡潔、更完善和更有效的非線性系統表達與分析的數學方法是這一領域主要目標之一。
(3) 神經網絡軟件模擬、硬件實現的研究以及神經網絡在各個科學技術領域應用的研究
目前,數字計算機在計算方面的能力已遠遠超出入的大腦,但在自然語言理解、圖像辨識、信息處理等方面都顯得笨拙,原因是基于馮?偌依曼思想的計算機結構及其運算方式與人的大腦有本質的區別,而神經計算機(第六代計算機)以神經網絡為理論基礎,用于模擬神經網絡,具有自學習、自組織和自適應能力,能更有效地處理復雜問題,其實現過程用光學、生物芯片的方式,現在光學神經計算機和分子計算機的研究是神經網絡的前沿課題。
(4) 神經網絡和其它算法結合的研究
神經網絡和其它算法的結合和交叉,研究新型神經網絡模型也是發展方向之一。如神經網絡和模糊邏輯結合,建立模糊神經網絡;將混沌理論和神經網絡結合建立混沌神經網絡;將遺傳算法和神經網絡結合;利用遺傳算法優化神經網絡的結構或權值;將小波分析和神經網絡結合建立小波神經網絡;專家系統,貝葉斯學習以及粗糙集理論和神經網絡結合等,這些都是神經網絡研究的熱點。
3 結束語
神經網絡雖已在許多領域應用中取得了廣泛的成功,但其發展還不十分成熟,還有一些問題需進一步研究。比如:神經計算的基礎理論框架以及生理層面的研究仍需深入;新的模型和結構的研究;神經網絡的可理解性問題;神經網絡技術與其他技術更好的結合等。
關鍵詞: 神經網絡;數值積分;正弦基函數;收斂性
中圖分類號:O241.4 文獻標識碼:A 文章編號:1671-7597(2012)0220009-01
0 引 言
對給定積分求近似值的過程,即用被積函數的有限個抽樣值的離散或加權平均近似值代替定積分的值。常用的數值積分計算方法有Gauss方法、Newton-Cotes方法等。其中Newton-Cotes方法易出現收斂性很難確保,數值很不穩定,計算量較大等問題。
本文提出的數值積分方法,其基本思想是訓練正弦函數神經網絡權值
值計算。下面討論算法,并通過實例比較,證明其有效。
1 算法描述
1.1 基于正弦基函數的神經網絡模型
假設函數 ,其周期延拓為 ,表示為傅立葉級數:
1.2 正弦基函數的神經網絡算法收斂性定理
定理1 設 為學習率, 是隱層神經元的個數,則當 時,神經網絡算法收斂。
1.3 正弦基函數的神經網絡算法的數值積分定理
1.4 正弦基函數的神經網絡算法步驟
2 數值積分實例
例1 文獻[3]用梯形法和 方法在積分區間[0,2]上分別計算
算法中,取神經網絡隱層神經元個數為 ,學習率 ,訓
表1列出了文獻[3]和本文算法的結果
解:用 方法計算該積分時遇到了困難[2],用
3 結論
由實例可知,本文提出算法計算精度相對比其他算法高,并對被積函數要求較低,穩定性高,適應性強,在工程實際中有一定的應用價值。
參考文獻:
[1]沈劍華.數值計算基礎[M].上海:同濟大學出版社,1999:73-109.
[2]王能超.數值分析簡明教程[M].北京:高等教育出版社,1997:66-96.
[3]熊華,楊國孝.一類振蕩函數的數值積分方法[J].北京理工大學學報,1999,19(3):280-284.
[4]周永權.多項式函數型回歸神經網絡模型及應用[J].計機學報,2003,26(9):1196-1200.
關鍵詞:人工神經;網絡游戲程序;研究和設計;分析探究
中圖分類號:TP183 文獻標識碼:A 文章編號:1671-2064(2017)01-0044-01
近年來,在網絡游戲發展過程中,圖像的呈現質量已經提升到了一個極高的水平,人工智能游戲已經成為決定一款游戲成功與否的重要關鍵,并受到了游戲開發商的廣泛關注和高度重視。網絡游戲作為一種目標性、競爭性、互動性、情節性的娛樂作品,它的智能水平對游戲的質量和可玩性具有著直接的影響作用。因此,將計算機圖形學和人工智能有機的結合起來,把人工智能中的預測、路徑規劃、搜索、學習等技術有效的應用到網絡游戲的研發工作中去,不僅能夠提升游戲的質量和可玩性,同時還有利于促進游戲開發企業的發展。
1 人工神經網絡分析
人腦可以用一套較為獨特的方法來解決相關問題,并且還能夠從正反兩面的行為差異中進行學習,經過研究發現,人腦是由十萬種類的遺傳因子中的十萬億個細胞組合而成,人工神經網絡就相當于模擬人腦功能的一個數學模型。其中神經元作為人腦系統中處理基本信息的單元,是人體神經器官的重要組成部分,通過軸將各個神經元進行有效連接,而其他神經元的發送的信號能夠使當前神經元產生相應的反映,這一反映如果能夠達到特定的閾值,就會逐漸產生一種新的信號,并且沿著軸將信號傳輸到其他神經元[1]。人工神經網絡主要就是由各種節點相互連接組合形成的,節點類似于人腦的各個神經元細胞,會存在一些節點連接外部環境,主要負責相關的信息輸出和輸入工作,被稱作是輸出點或者輸入點,而另外一些網絡內部的節點,通常被稱作隱藏節點。隱藏節點的信息輸出通常是輸出節點的信息輸入,輸入節點的信息輸出通常是隱藏節點的信息輸入。
此外,人工神經網絡的主要核心思想就是對人類大腦神經系統功能進行模擬的機器學習的一種方法,并且通過對系統內部各個神經元的各種連接參數進行反復的調節,使得神經網絡系統得到訓練,并且在遇到一定情況時能夠做出最佳的反映[2]。總之,神經網絡作為一項發展較為成熟的技術,其在解決相關問題之后,將會使網絡游戲的智能化提升到一個全新的高度。
2 人工神經網絡中的游戲學習設計分析
與傳統方法相比,神經網絡解決問題的方式有著明顯的不同,其具有著較強的自主學習能力,經過不斷的學習,ANN可以從未知式中的各種復雜數據信息中發現規律[3]。這種神經網絡方法在很大程度上克服了傳統方法在分析中的復雜性以及各種模型函數選擇的困難,通過訓練對問題進行解答,ANN可以較為快速的建立解決問題的非線性和線性模型。如果想要人工神經網絡進行運作,首先就需要讓網絡進行學習,不斷的訓練網絡,幫助它獲取更多的知識信息,最后將這些信息有效的存儲起來。一旦完成相關的訓練和學習,就可以將知識有效的存儲在權值中。在游戲的開發過程中,將神經網絡模型看作是人物建模的基礎,通過對玩家將要進行的動作或者選擇的畫面場景進行預測,運用神經網絡進行信息存儲,并且在游戲的運行過程中要保證學習元素的有效運行,進而讓神經網絡潛移默化的學會相應的自適應技術,最終實現游戲的可玩性和趣味性,提升游戲的開發設計質量和效果,進而吸引更多的游戲玩家。
3 BP神經網絡游戲開發設計分析
在神經網絡的眾多模型中,BP算法是其中較為常用的一種神經網絡,一般分為輸入層、輸出層、中間層等三個部分,各個層之間按順序進行連接,因為中間存在隱含層,可以從中發現一定的學習規律,可以通過對這種網絡的有效訓練,進而形成一種較為復雜、多樣的決策界面[4]。同時,BP神經網絡具有一個強大的功能,其主要就是能夠封裝一個將信息輸入映射到信息輸出的非線性函數。假如不存在隱含層,那么神經網絡只能發現信息輸入與信息輸出之間存在的線性關系。但是,僅僅是為感知網絡增添一個隱含層還是遠遠不夠的,需要通過非線性激活函數為網絡連接提供相應的非線性元素。大多數的非線性函數基本上都能夠進行使用,但是多項式函數除外。
在游戲中,設置網絡作為神經網絡實現的基本步驟,可以將特定數據當做輸入訓練網絡,并且在游戲的具體輸入中進行實際應用。在游戲問題的神經網絡設計中,應該注意結構、學習、神經元特點等三個方面的因素。其中結構主要就是指要進行構造的神經網絡組織、連接方式以及基本類型。而且在神經網絡中節點數設計要遵循相關的原則就是越少越好。神經網絡中的節點數越多,那么神經網絡搜索正確解的空間范圍就越廣闊[5]。神經網絡中輸入節點數在一定程度上決定著模式匹配或網絡分類的變量數,例如,籃球類型的游戲中,運動員投籃命中、灌籃動作、球員分布、難度等級等變量數。
4 結語
總而言之,網絡游戲作為一種新型的娛樂方式,具有著較強的生活模擬性和互動性,深受廣大社會群眾的喜愛。因此,我國應該重視游戲產業的發展,不斷加大對網絡游戲的開發和設計,將神經網絡有效的應用到網絡游戲開發的實踐中去,尤其是BP神經網絡,它不僅可以預測玩家的行為,及時提供信息反饋,同時還能提高網絡游戲的可玩性和趣味性,提升游戲設計的整體質量和效果,有利于促進我國游戲開發產業的發展和進步。
參考文獻:
[1]余穎.基于神經網絡和遺傳算法的人工智能游戲研究與應用[D].湖南大學,2011.
[2]王淑琴.神經網絡和遺傳算法在游戲設計中的應用研究[D].東北師范大學,2014.
[3]f潭凱.神經網絡在即時戰略游戲中的應用[D].福州大學,2014.
關鍵詞:神經網絡;模式;分類
中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2009)04-0922-02
The Research of the Classification of Model with Neural Network
GUO Xiao-yan
(Gansu Agriculture University, Information & Science Technology College, Lanzhou 730070, China)
Abstract: The problems of classification of model with neural network can be solved by the help oftutors information, and also be solved by the help of clustering without the tutors information.This article analyzes andcompares several neural network models being used for classification of model,reach a conclusionthat inparticular situation different models of neural network can bechoiced , and if nessesary aintegratedway can be used.
Key words: neural network; classification; model
傳統的分類方法對于同類相聚,異類分離比較有優勢,但客觀世界中許多事物在樣本空間中的區域分割曲面非常復雜,相近的樣本可能屬于不同的類,而遠離的樣本可能屬于同一類1。模式是對某些感興趣的客體的定量描述或結構描述,模式類是具有某些共同特征的模式的集合。模式分類可分為兩種類型,分類和聚類,分類是在類別知識等導師信息的指導下,將待識別的輸入模式分配到各自的模式類中去。聚類是無導師的分類方法,它是將相似的模式樣本劃歸為一類,而將不相似的分離開,實現了模式樣本類內相似性和類間分離性。通過聚類,可以發現原始樣本的分布特性。
神經網絡對外界的輸入樣本具有很強的識別能力,可以發現輸入樣本自身的聯系和規律以及輸入樣本和期望輸出之間的非線性規律,因此在模式分類方面具有傳統分類方法無法比擬的優點。人工神經網絡在模式分類方面提出了大量了網絡模型,發現了許多學習算法。
1 無導師分類機制
對于無導師的模式分類只從輸入樣本入手,通過分析與比較,找到輸入樣本的特征和內在規律,從而將具有相似性的樣本聚為一類。
1.1 SOM網
SOM 網屬于自組織映射神經網絡,SOM神經網絡接收外界的輸入模式時,會分為不同的對應區域,各區域對不同的輸入模式會有不同的響應特征,利用這個特征可以對輸入模式進行分類。
算法思想:
它的學習規則是“勝者為王”。找出和輸入向量最為相似的競爭層神經元(即獲勝神經元),在一個以該神經元為中心的鄰域內對本區域內的所有神經元的權值進行不同程度的調整,調整的原則是由遠及近,由興奮變為抑制,權值調整的結果是使競爭層的特定神經元變得對輸入層的某些樣本敏感,從而達到分類的目的。
算法步驟:
1) 找出獲勝神經元
對于每一個輸入模式向量 X,競爭層的所有神經元對應的內星權向量Wj(j=1,2,…,m)均與X進行比較,將與X最為相似的神經元判為獲勝神經元。其權值記為Wj*。相似性量度為X和W的歐氏距離或夾角余弦。
■
m是競爭層神經元個數。
d=||X-Wj*||=min||X-Wj*||(j=1,2,…,n)
d為輸入向量X離獲勝神經元的距離
2) 找出一個Wj*的一個鄰域Sj,對于Sj內的所有權值進行調整。
3) 權值調整
Wj(t+1)=Wj(t)+α[X-Wj(t)]
α為學習率,隨著t的增加,α的值在不斷地減小。
權值的調整是使得獲勝結點更加接近輸入樣本,從而使競爭層的每一個神經元變為一個聚類中心。當向網絡輸入一個模式時,競爭層中哪個神經元獲勝使輸出為1,當前輸入就歸為哪類。
通過聚類進行模式劃分的方法還有模糊聚類,K-均值聚類,HCM,最近鄰聚類(NN算法)等,這些算法的最主要優點就是不需要導師信號,這對于一些無法得到導師信號的模式分類情況來說是有優勢的。
2 有導師分類機制
基于無導師的聚類算法只考慮輸入樣本,而沒有考慮輸入樣本所對應的輸出、這就使得這樣的分類不是最優的。
2.1 BP神經網絡
BP神經網絡利用導師信號和輸入樣本來訓練網絡的權值,從而找到從輸入樣本到導師信號(期望輸出)之間的非經性變幻規律來修整權值,經過測試樣本和期望輸出的多次訓練來使成熟的網絡穩定,當有新的輸入時,就可根據此規律對它樣本進行正確的分類。
BP神經網絡的算法思想是:輸入樣本自輸入層傳入,由各隱層處理后,傳向輸出層,這屬于正向傳播;如果輸出與期望輸出(導師信號)不符,得到誤差值,輸出誤差通過隱層向輸入層逐反向傳播,并將誤差分攤給各層的所有單元,從而獲得各層單元的誤差信號,此誤差信號成為修正各單元權值的依據。
2.1.1 BP神經網絡的描述1(圖2)
1) 正向傳播
對于有單個隱層單元的BP神經網絡而言
隱層輸出:
■
輸出層:
■
l 為輸出層神經元的個數m為隱層神經元的個數n為輸入層神經元的個數
f(x)可采用單極性的Sigmoid函數:
■
2)反向修正權值
輸出誤差E定義如下:
■
其中d為導師信號(期望輸出),o為實際輸出
進一步展開至輸入層,有:
■
權值修正:
■
η是學習率,可以控制學習的時間和快慢。
在BP神經網絡中,利用導師信號和神經網絡的輸出得到總誤差E,調整權值時,按誤差梯度下降的原則進行。利用BP神經網絡進行分類時,可以利用導師信息先規定類別信息,再利用輸入樣本和類別信息得出E,從而反向調整ω,ν值,如果網絡的總誤差小于一個特定的值,可認為網絡訓練結束,得到最終的ω,ν值。對于新的樣本,此訓練好的網絡便可進行正確分類。
3 徑向基函數神經網絡
利用BP網絡進行分類時,完全沒有考慮輸入樣本的特征,只利用導師信息進行權值的修正,因此學習時間很長,分類的精度也不是非常高,錯分的情況很多。通常,輸入樣本本身具有某種規律性,利用現有樣本的自身規律加上導師信號的限制,可以大大提高分類的精度,同時可以縮短學習的時間。徑向基函數網絡就是基于這種思想。
用徑向基函數作為隱單元的“基”,構成隱含層空間。隱含層對輸入向量進行變換,將低維空間的模式變到高維空間中,使低維空間中的不可分問題在高維空間中變得可分。
算法思想:
1)找到分類中心向量,也稱基向量,(一般用K-均值法,動態聚類法等),假定分類中心向量個數為 個,這也就決定隱層神經元的個數。
2)算出輸入樣本到各個分類中心向量的距離d,利用基函數f(x),自變量為d,得到隱層輸出,只有離分類中心最近的向量得到較大的輸出。
■
p是輸入樣本個數,j是聚類中心的個數,k是樣本和聚類中心向量的維數。
■
3)最后通過隱層到輸出層的線性變換得到最終的輸出,則:
■
學習算法:
1)利用無導師機制選取分類中心向量;
2)利用有導師信號修正隱層到輸出層的權值,權值的修正仍用類似BP神經網絡的梯度下降算法。
徑向基函數網絡對于輸入層向隱層的變換是非線性的,而隱層到輸出層變換進線性的,在確定中心結點時,可采用無導師的聚類機制,當修正隱層到輸出層的權值時可采用有導師機制,此兩種方法結合即可發現輸入樣本中的內在規律,又可利用導師信號進行約束從而提高分類的精度和縮短學習的時間。
3 結論
利用神經網絡進行分類時,如果可以得到導師信號,可采用徑向基神經網絡,或BP神經網絡,徑向基神經網絡收縮速度快,不容易陷入局部極小值,在解決分類時和般優越于BP神經網絡,如果無法得到導師信號,則可采用自組織神經網絡SOM網絡,通常SOM也可以用在徑向基神經網絡的選用中心向量問題上。
參考文獻:
[1] 韓力群.人工神經網絡理論、設計及應用[M].2版.北京:化學工業出版社,2007.