神經網絡反向傳播原理

前言：想要寫出一篇令人眼前一亮的文章嗎？我們特意為您整理了5篇神經網絡反向傳播原理范文，相信會為您的寫作帶來幫助，發現更多的寫作思路和靈感。

神經網絡反向傳播原理范文第1篇

[關鍵詞]人工神經網絡；旅游物流；需求預測

[DOI]1013939/jcnkizgsc201538051

1引言

旅游物流對廣西地區經濟的發展至關重要，準確把握、預測旅游物流需求有助于有關部門制定合理的旅游物流規劃、促進國民經濟可持續發展、提高居民生活水平。國內學者通過一定的方法和模型確定了影響旅游物流能力的關鍵要素，為旅游物流需求的預測提供了一定的理論基礎，而在物流需求預測方面也提出了很多如時間序列模型、灰色預測、回歸分析等具有創新性和實踐意義的方法。由于旅游物流具有的獨特性和負責性使得這些模型及分析方法在前提條件、適用范圍和側重點的選取方面具有一定的困難，因此在實際應用中各有利弊。人工神經網絡可以將定量或定性的信息等勢的分布貯存于網絡內的各神經元，有很強的魯棒性和容錯性，通過建立基于人工神經網絡的預測模型，利用Braincell軟件進行計算以期達到精確預測旅游物流需求的目的。

2旅游物流的需求界定

經過多年的發展，關于旅游物流需求的定義至今仍沒有一個令各方滿意的結論。物流服務貫穿了整個旅游活動過程中，旅游物流可以看作為了使旅游消費者獲得更好地滿足感和旅游體驗，與旅游相關的主體提供讓旅游消費者更為暢通流動的旅游服務，與此相應的旅游物流的能力指提供的旅游服務內容以及相關主體使用物流設施對旅游物流活動進行計劃、組織、協調和控制的能力，到旅游物流的具體環節，可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關主體運用物流設施為游客提供旅游服務的能力。文中對旅游物流需求的預測可以從往年的旅游物流能力方面進行預測，通過準確的預測旅游物流需求可以較好地規劃未來年份旅游業發展方向，對物流設施和設備進行準確的投入，減少資源的浪費及設施投入不足的狀況。

旅游物流能力是指旅游服務主體向旅游消費者從“吃、住、行、購、游、娛”6個方面提供服務的能力，旅游物流需求可根據這6方面來選取指標，但是旅游物流需求預測的準確性不僅受到旅游物流的獨特性的制約，還受到一些客觀性條件的影響。如物流統計制度不健全，目前，我國仍沒有建立系統全面的物流統計制度，更沒有涉及旅游物流領域；物流統計沒有涉及物流活動的全過程；物流統計指標過于單一。此外，國內只有基本的貨物運輸量和貨物周轉量統計，其他與物流相關的指標沒有公開的統計資料，也沒有權威的統計方法和基礎數據，致使物流需求預測不能通過直接指標來衡量需求規模的大小。

3基于神經網絡的旅游物流需求預測模型的建立

神經網絡具有非線性、曲線擬合能力、學習能力和抗干擾能力，是一種通用的非線性函數逼近工具。通過對BP神經網絡的訓練，特別適用于構造非線性預測函數，而且精度可達到預定的要求。

31預測領域中的BP神經網絡模型簡介

BP神經網絡通過正向輸入，反向傳播誤差不斷迭代的學習過程，直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網絡就能以任意精度表示并揭示任何連續函數所蘊含的非線性關系。其中：

（1）工作信號正向傳播。輸入信號從輸入層經過隱含層，傳向輸出層，在輸出端產生輸出信號，這是工作信號的正向傳播。在信號的正向傳播過程中網絡的權值是固定不變的，上一層神經元的只影響下一層神經元的狀態，即正向影響。如果在輸出層不能得到期望的輸出，則轉入誤差信號反向傳播。

（2）誤差信號反向傳播。網絡的實際的輸出與所期望的輸出之間差值即為誤差信號，誤差信號由輸出端開始逐層向前傳播，即誤差信號的反向傳播。在誤差信號反向傳播中，神經網絡的權值根據誤差的反饋進行調節。通過不斷地對權值的修正，使實際輸出更加接近期望輸出。

（3）預測神經網絡流程。通過了解工作信號與誤差信號的傳播方向，可以清楚地了解預測神經網絡的工作流程。預測開始時神經網絡讀入樣本、權值，通過計算輸入層的輸入得出結果傳遞到輸出層，在輸出層進行計算，最后在計算輸出值與期望值的誤差。若誤差小于確定值則計算結束，若誤差大于確定值則繼續回到前兩層進行權值調整，把調整后的權值重新輸入到模型中，直到誤差小于設定的確定值。

本文應用Braincell神經網絡軟件來實現神經網絡的計算與分析。

32BrainCell軟件及實現

321BrainCell 神經網絡基本原理

BrainCell 神經網絡采用誤差反向傳播學習算法，算法從兩個方面（信號的前向傳播和誤差的反向傳播）反復進行迭代學習，與神經網絡預測模式基本原理相同。

322BrainCell 神經網絡實現步驟

（1）數據的預處理和后處理。為方便的計算減少誤差，保證數據同一量綱，需要將數據歸一化為區域[0，1]之間數據。在實際的預測模型中當數據接近0或1的時候訓練效果會明顯下降。因此，為了避免數據落入最大飽和區，保持數據的原有特征，根據經驗將數據規范到[015，085]來進行修正。模型中采用反歸一化處理輸出數據。

（2）網絡層數目的確定。由Kolmogorov定理可知，含有一個神經元隱含層的三層神經網絡可以從任意精度逼近一個從輸入到輸出的映射關系，因此在Braincell神經網絡中采用含有單隱層的三層神經網絡[2]。

（3）網絡節點的確定。輸入層節點的多少與評價指標個數是相對應的。

（4）網絡訓練。假設訓練樣例是形式（x，y），其中x為輸入向量，y為輸出值。N為輸入節點數，M為輸出層節點數。從單位i到單位j的輸入表示xij，單位i 到單位j的權值表示Wij。一是創建具有N 個輸入單位，M 個輸出單位的BrainCell 神經網絡；二是用隨機數（0 或1）初始化某些數字變量網絡權值Wij；三是對于第k個訓練樣例（a，b），把入跟著網絡前向傳播，并計算網絡中每個單元x的輸出Qx，使誤差沿著反向傳播；四是對于每個輸出單元u，計算它的誤差項；五是對于每個隱含單元h，計算它的誤差項；六是利用誤差項更新調整每個網絡權值；七是重復三到六點，直到完成指定的迭代次數或者是其誤差值達到可接受的范圍。

33神經網絡的旅游物流需求預測模型的建立

331模型中數據指標確定

目前我國仍沒有健全的物流統計制度，因此實際工作中收集旅游物流需求數據十分困難。這里采用間接指標法――利用與旅游物流需求相關的經濟指標來建立旅游物流需求的經濟指標體系，通過數學的方法進行總結與推導，確定旅游物流需求模型。

旅游物流需求是一種派生需求，這種需求的大小與其本身發展有著密切的關系。從宏觀層面上考慮主要有內外兩部分因素：旅游業自身發展的狀況及外部環境的影響。從微觀層面來說，旅游業自身發展的狀況是旅游物流需求的關鍵因素。旅游業產值越高，旅游物流需求增長隨之增加，反之亦然。由此，本文選取旅游總收入和接待人數作為預測旅游物流需求的指標。其次，影響旅游物流的其他關鍵因素就是旅游行業本身所投入的設施、人員、公路鐵路旅客周轉量等因素。根據旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進行指標的選取，如“吃、住”方面使用餐飲住宿從業人數、星級飯店數目衡量；“行”使用公路、鐵路旅客的周轉量來衡量等；“游”則使用旅行社從業人數等方面來衡量。這些因素都對行業的產值有較大的影響。因此，在模型中可將這些相關經濟指標作為旅游物流需求規模的影響因素。由此可選擇如下輸入層指標：星級飯店數X1、接待入境旅游者平均每人消費額X2、餐飲住宿業從業人數X3、旅行社從業人數X4、鐵路旅客周轉量X5、公路旅客周轉量X6、旅游部門游船年末實有船數X7，旅游部門旅游客車年末實有數X8，共有8個。而把旅游業的年收入Y1與年接待入境旅游者人數Y2作為物流需求預測的目標。

332數據來源

本文選取的數據資料來源于廣西壯族自治區歷年統計年鑒、中國統計年鑒、中國旅游年鑒，如表1所示。根據樣本數據選取原則，將2005年和2012年的數據作為網絡測試樣本，最后用訓練好的神經網絡預測2014―2016年的物流需求規模。

333廣西旅游物流需求的BP人工神經網絡模型

（1）樣本數據的歸一化處理。選取X1，X2，X3，X4，X5，X6，X7，X8作為廣西旅游物流需求預測BP人工神經網絡模型的輸入，Y1，Y2為BP網絡的輸出。根據BP 的本身特點，對輸入層數據進行歸一化時，采用如下公式：y=log[JB（（]x[JB））]/10。對輸出層數據則使用歸反一化處理，公式如下：P=log[JB（（]tT[JB））]/10。

（2）網絡節點的確定。根據構建好的評價指標體系，可以確定輸入層的節點數為8，輸出層的指標數為2。

（3）網絡訓練。以traindx作為訓練函數，利用matlab計算。可知在最大訓練次數為200次，目標誤差為001，學習率設置為003，誤差曲線收斂于目標001，進過45次迭代后，網絡達到目標要求，訓練誤差圖見下圖。

訓練誤差圖

通過設置的數據，使用Braincell軟件對數據進行訓練，選取全部數據作為樣本數據組，2010―2013年的樣本作為將預測樣本，輸入模型可得2010―2013年的預測值見表2。

據表3可以看出，預測效果較好，一般來說，對于經濟指標的預測，誤差能夠控制在3%以內就算比較準確。因此，基于與旅游物流相關的其他經濟數據來建立BP神經網絡模型預測旅游物流需求有一定的實用價值。

4結論

根據人工神經網絡理論建立的旅游物流需求預測模型，通過Braincell神經網絡的自學習特征，運用traindx函數進行訓練，在訓練過程中對權值進行不斷修正，誤差比率控制合適的在范圍內，使網絡的實際輸出向量逐漸地接近期望的輸出值。最后把仿真的預測結果與真實量進行初步比較分析，得出的結果能夠證明使用神經網絡模型對旅游物流的預測精度較高。因此可以得出以下的結論：用BP神經網絡建立模型，可以準確地把與旅游物流相關的經濟數據與目標本身的需求量進行結合，可得到較為精準的旅游物流需求預測值。由此可以推斷，人工神經網絡作為高度的非線性體系，能夠對經濟系統中個變量之間的非線性關系進行高精度的預測，將其運用在物流領域中的應用具有更加廣闊的發展潛力。

參考文獻：

[1]王新利，趙琨基于神經網絡的農產品物流需求預測研究[J].農業技術經濟，2010（2）：64-66

[2]秦立公，韋金榮等基于BrainCell 的B2B 電子商務供應鏈協同績效評價體系[J].中國集體經濟，2014（15）：112-113

[3]張圣楠，郭文義，等基于MATLAB的BP神經網絡的設計與訓練[J].內蒙古科技與經濟，2005（17）：96-98

[4]熊勛人工神經網絡在環境質量評價和預測中的應用研究[D].武漢：華中科技大學，2009

[5]白平，陳菊紅基于旅游物流能力的西部旅游發展研究[J].新疆大學學報，2013（41）：16-17

[6]秦立公，王東，等旅游景區物流能力優化研究[J].現代商業，2010（24）：47

神經網絡反向傳播原理范文第2篇

關鍵詞：神經網絡；上證綜合指數；Clementine；股價

中圖分類號：F830.9 文獻標識碼：A 文章編號：1001-828X（2013）05-0-01

證券市場是一個資源重新配置的市場，在我們國家經濟建設中起著非常重要的作用，和我們廣大人們群眾的生活息息相關。股價預測有著很大的應用價值，具有動態性、強非線性等特點。人工神經網絡是一種模擬人腦神經網絡結構，通過對研究對象的不斷學習、訓練，從而實現預測模型的方法。在股價預測方面，人工神經網絡方法可以通過股票歷史數據進行學習，從而找出股票價格的規律，實現對股票價格的準確預測。

一、神經網絡模型簡介

1.神經網絡基本概念

神經網絡模型是一種數學模型，它試圖模擬人類大腦的功能。它由大量的人工神經元通過適當的方式互連構成，是一個非線性的自適應系統，用于智能決策和推斷。

2.BP神經網絡

目前神經網絡有很多種，BP神經網絡模型是用的比較多的一種模型。BP神經網絡是一種基于有監督的學習、使用非線性的可導函數作為傳遞函數的前饋神經網絡，由信息的正向傳播和誤差的反向傳播兩個過程組成，包括一個輸入層、一個輸出層以及一個或者多個隱層。輸入層收到輸入信號，傳遞給中間隱層各神經元，由最后一個隱層神經元傳遞到輸出層各神經元的信息，經過進一步處理，完成一次正向傳播處理過程，由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不相符時，進入誤差的反向傳播過程。誤差通過輸出層，按照誤差梯度下降的方式修正各層權值，向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程，一直進行到網絡輸出的誤差減少到可以接受的程度。BP神經網絡模型包括其輸入模型、輸出模型、作用函數模型、誤差計算模型和自學習模型。

二、神經網絡模型在股票分析預測中的應用

1.初始數據選取

本文擬以A股市場上證綜合指數為研究對象，選取2012年1月4日至2013年4月17日期間每個工作日的上證綜合指數的相關數據，利用Clementine軟件的BP神經網絡方法進行建模，對上證綜合指數的走勢進行分析和預測。在建模過程中，選取的變量為：開盤價、最高價、最低價、成交量、收盤價。

2.BP神經網絡建模

3.分析與結論

下圖為通過神經網絡模型得到的次日收盤價格與次日預測結果之間的擬合圖，從圖中可以看出，盡管預測結果與真實值之間的變化趨勢基本一致，但還是有一定的預測誤差，這是因為股票價格不僅跟成交價和成交量有關系，還受政策因素、市場供應關系、季節因素、突發事件等影響。根據價量關系，對短期預測效果比較有效，如果希望對股票進行長期有效的分析，我們還需要考慮很多因素，包括宏觀因素、上市公司財務狀況及內部其他因素等。

參考文獻：

[1]史忠植.神經網絡[M].北京：高等教育出版社，2009：48-65.

[2]薛薇，陳歡歌.基于Clementine的數據挖掘[M].北京：中國人民大學出版社，2012：1-132；275-305.

[3]元昌安.數據挖掘原理與SPSS Clementine 應用寶典[M].北京：電子工業出版社，2009：234-257；550-555.

[4]楊富勇.神經網絡模型在股票投資中的應用[J].計算技術與自動化.2010，29：108-112.

[5]范明，孟小峰，譯.Han J， Kamber M.數據挖掘：概念與技術[M].北京：機械工業出版社，2012.

[6]張嫻.數據挖掘技術及其在金融領域的應用[J].金融教學與研究，2003，6（04）：15-18.

神經網絡反向傳播原理范文第3篇

關鍵詞：BP神經網絡； 模糊矩陣； 教學評價

中圖分類號：TP183 文獻標識碼：A文章編號：2095-2163（2013）06-0060-03

0引言

教師教學效果的審核評定是高校教學中的重要工作。傳統的考核方法或者只是由學生填寫調查表，給教師劃分等級，進行定性描述，或者是由督導組根據幾堂課的聽評給教師的課堂教學打出一個分值。無論是哪種方法都不能全面客觀地對教學工作做出科學評定。而且傳統的考核方法受主觀因素影響較大，學生在對教師的評判中常會加入多種因素，各種因素之間的影響也各不相同，僅以學生或僅憑督導團的評定來實施評判顯然已不盡合理。因此， 建立一種能盡量排除各種主觀因素的干擾，同時又具有完善且穩定的評價體系的評定方法則成為必要和重要的研究課題。

本文構建一種教學效果評價體系，即對教師的評價從“教學態度”、“教學內容”、“教授方法”、“課堂效果”四大方面分項進行，無論是學生還是督導組均可據此評價體系給出相應評分。本文提出使用BP反向傳播神經網絡來構建一個穩定的評分系統，各項評分指標為網絡輸入，使用已訓練完成的BP神經網絡來模擬一個專家的打分經驗，由此輸出一個終值。BP神經網絡通常是指基于誤差反向傳播算法的多層前向神經網絡，由于BP網絡的神經元采用的傳遞函數是Sigmoid型可微函數，因而可以實現輸入和輸出間的任意非線性映射[1]。由于BP神經網絡本身就是一種高度復雜的非線性動力系統的辨識模型，并且BP神經網絡具有逼近任意非線性函數的能力[2]，因此使用BP神經網絡進行評價將使結果更具客觀性，以此來模擬一個穩定的評分系統亦將具備了現實實現基礎。在本文提出的系統中，系統將評價體系中各組評分的分值作為反向傳播神經網絡的輸入，使用BP網絡運算后得出一個綜合性的評分，即整個過程好似系統模擬一個經驗頗豐的專家進行打分。其后，本文又通過數據測試驗證了模型的評價結果與實際相符。

1BP神經網絡模型

BP（Back Propagation）神經網絡是基于誤差反向傳播的多層前向神經網絡，即權值和閾值的調節規則采用了誤差反向傳播算法，這是一個有導師的神經元網絡學習算法[2]。BP網絡能學習和存儲大量的輸入輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。該網絡的學習規則是使用最速下降法，通過反向傳播來不斷調整網絡的權值和閾值，使網絡的誤差平方和最小。BP神經網絡模型拓撲結構包括輸入層（input）、隱層（hide layer）和輸出層（output layer）。其中的隱層可擴展為多層。只要在隱層中有足夠數量的神經元，就可使用這種網絡來逼近任何一個函數[3]。一個典型的BP網絡結構如圖1所示。

2評價模型的構建

本文構建了一套評價體系，使用一套客觀標準進行量化表達，且該體系適用于大多數學校的教學評價。評價項目中，各項指標的取值范圍為[0，10]。多位專家將根據評價體系方案為每一位參評教師填表打分，經過匯總后，每一個教師的教學情況評分將和一個評價矩陣A對應。列向量x為各個項目指標，行向量e為各位專家評出的各項指標分值。對列向量進行均值計算，則得到各個教師的教學效果指標向量S。所得教學效果指標向量S即是神經網絡的輸入。評價體系方案設計如表1所示。

表1教師教學評價體系

Tab.1 The system of teaching evaluation類別項目教學態度嚴謹負責x0； 思想教育x1；教學內容教學目標x2； 準確度x3； 熟練程度x4； 信息量x5；教授方法啟發思維x6； 講授思路x7；重點難點x8；聯系實際x9；教學儀態x11；語言表述x12；媒體使用x14課堂效果課堂紀律x15；學生思維x16 圖2則為一個由6名專家給出的某位教師教學效果的評分矩陣。

3BP網絡模型的設計與實現

使用BP神經網絡可以構建穩定的評分系統。人為打分時由于主觀因素的影響，分值出入較大，往往不能準確地反映實際情況，為了避免對同一教師的教學評價出現較大反差，構建一個穩定的BP神經網絡系統即已成為實踐發展過程中的一個必然要求。在系統實現過程中，一位專家首先根據本文提出的評分系統給出各項成績，并將此成績作為神經網絡的輸入值。其后，這位專家再給出一個綜合評分，作為神經網絡的樣本，即輸出值，以此即可對BP網絡進行訓練。訓練后的神經網絡就可以模擬該專家的打分經驗，由此構建形成一個穩定的評分系統。

根據BP神經網絡模型的定理（Kolmogrov 定理）：給定任一連續函數f：[0，1]nRn，f可以用一個三層前向神經網絡來模擬實現。第一層，即輸入層，有n個神經元；中間層，神經元個數可由經驗公式實驗得出；第三層，輸出層有m個神經元。因此一個三層結構的、設有Sigmoid神經元，并具有足夠隱節點的BP神經網絡則可以逼近任何一個連續函數。本系統采用有三層結構的BP神經網絡，其結構如圖1所示。由于評價體系中有17個指標，因此網絡的輸入層有17個輸入。系統的輸出層則確定為1個節點。隱層神經元個數將根據實驗結果而確定為11個。隱層傳遞函數可使用“lognsig”對數傳遞函數實現，輸出層傳遞函數使用“pureline”純線性傳遞函數實現。訓練函數則使用“traingdm”動量梯度下降反向傳播法對網絡進行訓練，另外，網絡性能函數使用了默認的“mse”均方誤差函數。MATLAB中的主要代碼如下：

設有10位教師需要評分，因而使用10組分數即17×10的矩陣作為10個教師的教學效果矩陣。教學效果矩陣即是神經網絡的輸入矩陣，亦是訓練樣本，矩陣的行向量為各項評價指標，10個樣本，即10位教師的最終評價結果則作為目標樣本來訓練神經網絡，獲取1×10矩陣為目標矩陣，即10位教師的最終得分。實驗中運用Matlab編程建立三層BP神經網絡，目標訓練誤差為0.1，最大訓練次數為 3 000次。訓練誤差隨訓練次數的變化情況如圖3所示，神經網絡經過909步迭代達到精度要求。對應輸出與目標的誤差如圖4所示。

訓練樣本的輸出與專家打分結果比較如表2所示。

由表2可以看出，訓練后的網絡輸出值與專家給出的終值之間的差異均在可接受的指標范圍內，因此采用BP神經網絡可以構建穩定的評分系統。

4結束語

在對教師教學效果的評價中存在著多種因素，本文構建了一套較為合理的評價體系，并且提出使用BP神經網絡對專家評分進行模擬，利用神經網絡可避免打分過程中出現的寬嚴不定的情況。實驗證明，BP神經網絡可以構建穩定的評分系統，并取得了良好的實驗效果。

參考文獻：

[1]許東. 吳錚. 基于Matlab 的系統分析與設計—神經網絡[M]. 西安：西安電子科技大學出版社，2003：18-19.

[2]胡守仁. 神經網絡導論[M] . 長沙：國防科技大學出版社，1993 ：113 - 120.

[3]Martin T. Hagan， Howard B.demuth. 神經網絡設計[M]. 北京：機械工業出版社 ，2002：227-255.

[4]郭齊勝. 系統建模原理方法[M]. 長沙：國防科技大學出版社，2003：172-173.

[5]袁劍. BP神經網絡在學生綜合考評中的應用[J]. 福建電腦，2010（6）.

神經網絡反向傳播原理范文第4篇

關鍵詞： 模糊神經網絡；短期負荷預測；BP算法

algorithm

中圖分類號：TN711文獻標識碼： A 文章編號：

1 引 言

短期負荷預測是電力系統管理現代化的重要內容之一，是對發電、輸電和電能分配等合理安排的必要前提，對提高電力系統的經濟效益和社會效益，保障電力系統的安全經濟運行與國民經濟的發展具有非常重要的影響。因此，尋求有效的負荷預報方法，提高預測結果的準確度具有重要意義。

本文針對延邊電網短期負荷預測問題，考慮到氣象因素對負荷的影響，提出了一種具備模糊數據處理能力的模糊理論與擅長擬合非線性映射的神經網絡方法結合起來的短期負荷預測方法，首先根據評價函數選取相似日學習樣本，然后利用隸屬函數對影響負荷的特征因素向量的分量進行模糊處理，采用反向傳播算法，對24點每點建立一個預測模型，提高了學習效能。

2模糊理論與人工神經網絡方法簡介

2．1模糊集合論的概念

客觀事物的差異在中介過渡時所呈現的亦此亦彼的現象稱為模糊性，它體現了事物變化的連續過程。模糊集合論使用隸屬度來描述中介過渡，是以精確的數學語言對模糊性的一種表述。

設論域u＝｛x｝，u到閉區間〔0，1〕的任一映射uA（x）∶u〔0，1〕，xuA（x）確定了u的一個模糊子集，簡稱模糊集，記作A，該映射稱為A的隸屬函數。uA（x）的大小反映了x對模糊集A的隸屬程度，簡稱為隸屬度。實數集合上常用的隸屬函數為F分布，主要有矩形分布，梯形分布，拋物形分布等，在實際應用中可根據對象特點加以選擇。

2．2人工神經網絡和反向傳播算法的原理

神經網絡是由處理單元組成的一種并行、分布式信息處理結構，處理單元之間由單向信道相互連接。人工神經元是神經網絡的基本計算單元，模擬了人腦中神經元的基本特征，一般是多輸入／單輸出的非線性單元，可以有一定的內部狀態和閾值。

反向傳播（Error Back Propagation－BP）算法是多層感知器的一種有效學習算法，它的模型為前向多層網絡，如圖1所示。

網絡不僅有輸入層節點、輸出層節點，而且有隱含層節點，經過作用函數后，再把隱節點的輸出信息傳播到輸出節點，最后給出結果。節點的作用函數通常選取s型函數，如 這個算法的學習過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信號從輸入層經隱含層逐層處理，并傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。如果在輸出層不能得到期望的輸出，則轉向反向傳播，將誤差信號沿原來的連接通道返回，通過修改各層神經元的權值，使得誤差信號最小。

BP算法可描述為：

a．權值和閾值初始化：隨機地給全部權值和神經元的閾值賦以較小的初始值；

b．給定輸入xk和目標輸出yk；

其中 為第l層第j個神經元到第l＋1層的第i個神經元的權系數，η為增益項，δ（l）ik為第l層i節點的k模式的誤差項，且有

若i為輸出節點，則

e．達到誤差精度要求則輸出結果，否則回到3。

3預測方法

3．1BP網絡學習樣本的選擇

根據差異評價函數選擇一批比較相似的負荷日，選擇方法如下：

a．首先將影響因素向量的各分量數值化，這些因素包括日類型，工作日取1，雙休日取2；光照，晴天取1，少云取2，多云取3，陰天取4，下雨取5；雨量，無雨取0，小雨取1，中雨取2，大雨取3，暴雨取4；最高溫度、最低溫度、平均溫度等可取實際值。

b．建立評價函數

其中是α－β的范數，α為已知日的影響因素向量，β為預測日的影響因素向量（預測值），δ為設定的偏離值，要根據不同地區的實際情況由經驗決定。凡是滿足該評價函數的已知日均可加入學習樣本。

3．2預測方法

為了提高BP網絡的學習速度和預測精度，對網絡輸出的實際負荷值進行規一化處理，同時使用隸屬度函數對輸入網絡的影響因素向量進行模糊化處理，使得輸入向量的不同分量如工作日、光照、雨量、溫度等都轉換為模糊量。

日類型的隸屬度函數采用半矩形分布，形式如下。

對工作日的隸屬度函數為：

溫度的隸屬度函數分別如下。

對低溫的隸屬度函數采用偏小型梯形分布：

對中溫的隸屬度函數采用中間型梯形分布：

對高溫的隸屬度函數采用偏大型梯形分布：

將最高溫度th代入以上3個公式，可分別求出對于低溫、中溫、高溫3個狀態的隸屬度。對于最低溫度t1、平均溫度tα，可采用同樣方法求出它們的3個狀態隸屬度。

影響因素向量的其它分量如光照、雨量等的隸屬度函數與溫度相似，根據當地實際情況選擇建立相應的分布函數，從而求出光照的5個狀態隸屬度以及雨量的5個狀態隸屬度。

另外，為了降低求解規模，對1d的24點負荷每點建立1個預測模型，第i點的輸入輸出函數為：

其中Lji是指第j個學習樣本第i點負荷的實際值，Ljimin是學習樣本中第i點負荷的最小值，Ljimax是學習樣本中第i點負荷的最大值，經過規一化處理后，

fi是指第i點的輸入輸出函數，α′j1，…α′jl是第j個樣本影響因素的隸屬度向量，包括2個代表日類型的隸屬度，3個代表最高溫度的隸屬度，3個代表最低溫度的隸屬度，3個代表平均溫度的隸屬度，5個代表光照的隸屬度，5個代表雨量的隸屬度。當學習完成后，將預測日當天影響因素的隸屬度向量 代入（10）式，則可得第i點的負荷預測值。

3．3一些注意事項

a．偽數據的處理

因為神經網絡所用的負荷數據來自電力部門的SCADA系統，由于各種原因會造成一定數量的異常數據。考慮到負荷前后小時的自然變化，如果出現超常規值，必須將其剔除，代之以正常比例范圍內的估計值。

b．待選的相似日范圍

因為隨著時間的推移，系統負荷結構會發生緩慢的變化，當已知日和預測日相隔較遠時，即使它們的天氣情況等因素很相似，預測精度也不會高，因而取前3個星期的已知日作為待選范圍，同時還可以縮短程序選取樣本所花費的時間。

4計算實例分析與結論

4．1實例計算

對延邊電網2012年5月5日24點的負荷進行預測，所得結果如表一。

表一：

預測的平均絕對百分誤差為1.77％，最大預測誤差為3.1％，最小誤差為0.8％，誤差超過3％的預測點有2個，小于2％的點有15個，預測效果良好。

4．2結論

準確進行短期負荷預測是電力行業所企盼的，本人提出一種模糊神經網絡預測方法，利用模糊技術和神經網絡各自的特長，充分發揮了ANN處理非線性問題的能力，具有訓練速度快，學習精度高，數值穩定等優點，算例也表明這是一種行之有效的短期日負荷預測方法。

參考文獻

【1】 劉晨暉，“電力系統負荷預報理論與方法”哈爾濱工業大學出版社 1987

神經網絡反向傳播原理范文第5篇

關鍵詞：神經網絡技術，ANNBP網絡算法

 

1、人工神經網絡概述

人工神經網絡是模擬生物神經信息處理方法的新型計算機系統，它可以模擬人腦的一些基本特征，（如自適應性，自組織性和容錯性），是一個并行、分布處理結構,它由處理單元及其稱為聯接的無向信號通道互連而成。

人工神經網絡力圖模仿生物神經系統，通過接受外部輸入的刺激，不斷獲得并積累知識，進而具有一定的判斷預測能力。盡管神經網絡模型的種類很多，但基本模式都是由大量簡單的計算單元（又稱為節點或神經元）廣泛相互連接而構成的一種并行分布處理網絡。。基于神經信息傳輸的原理，各個節點通過可變的權值彼此相連接，每個節點對N個加權的輸入求和，當求和值超過某個閾值時，節點呈“興奮”狀態，有信號輸出。節點的特征由其閾值、非線性函數的類型所決定，而整個神經網絡則由網絡拓撲、節點特征以及對其進行訓練所使用的規則所決定。

2、多層前向網絡

神經網絡按拓撲結構分為前饋型網絡和反饋型網絡。前饋型網絡在結構上采用的是其信息只能從前一層到它下面一層的單元，在網絡運算過程中不存在任何反饋。從學習觀點看，前饋網絡是一種強有力的學習系統，其結構簡單,易于編程；從系統觀點看，前饋網絡是非線性映射，通過簡單非線性處理單元的復合映射可獲得復雜的非線性處理能力，因此具有較強的分類能力和模式識別能力。

反向傳播（BP）網絡是典型的前饋型網絡，結構上它屬于多層前向網絡,它的結構如圖1所示。它分為輸入層、隱含層和輸出層，層與層之間多采用全互連方式，同一層之間不存在相互連接。網絡中每一層權值都可通過學習來調節,且網絡的基本處理單元（輸入單元除外）為非線性輸入、輸出關系，處理單元的輸入、輸出值可連續變化。由于BP網絡可在多個連續的輸入和一個或多個連續的輸出之間建立非線性映射這一特性，它常被用于智能預測。

多層前向網絡是使用最廣泛的一種網絡結構，它可很好的解決XOR等經典的非線性問題，比起單層的感知器有很大的優越性，尤其80年代中期，Rumelhart和Mcclelland最先提出了多層前饋網絡的反向傳播學習算法，簡稱BP算法，它的效率很高，是目前應用最為普遍的訓練算法，這使得多層前饋網絡應用更加廣泛。應該指出，我們常說的BP網絡，嚴格說是基于BP算法的多層前向網絡。

圖 1 BP網絡結構圖

4、 BP網絡算法

BP網絡算法的思想是把一組樣本的I/O問題變為一個非線性優化問題，使用了優化中最普通的梯度下降法,用迭代運算求解權對應于學習記憶問題，加入隱含層節點使優化問題的可調參數增加，從而可得到更精確的解。BP網絡模型設計的最大特點是網絡權值是通過使用網絡模型輸出值與已知的樣本值之間的誤差平方和達到期望值而不斷調整出來的，并且確定BP神經網絡評價模型時涉及隱含層節點數、轉移函數、學習參數和網絡模型的最后選定等問題。下面簡單介紹一下基本BP算法相關數學描述：

(1)梯度下降算法

(2)S(Sigmoid)型函數

BP網絡的激活函數經常使用的是Sigmoid對數或正切激活函數和線性函數。對數S型函數 f(x)=1/(1+exp(-x)), Sigmoid 函數具有非線性放大功能，它可以把輸入從負無窮大到正無窮大的信號，變換成-1到1之間的輸出，對較大的輸入信號，放大系數較小，而較小的輸入，放大系數較大，所以采用S型激活函數可以去逼近非線性的輸入/輸出關系。

(3)BP算法

BP網絡學習是典型的有導師學習，其學習算法是對簡單的學習規則的推廣和發展。BP網絡實現了多層網絡學習的設想，其學習過程包括正向傳播和反向傳播兩部分。。

在正向傳播過程中，給定網絡的一個輸入模式時，輸入信息從輸入層經過隱含層逐層處理，并傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態，由輸出層單元產生一個輸出模式，這是一個逐層狀態更新過程，稱為前向傳播。。如果輸出響應與期望輸出的模式誤差值不滿足要求，那么就轉入誤差反向傳播，將誤差值沿連接通路逐層傳送并修正各層連接權值。對于給定的一組樣本，不斷用一個個訓練模式進行學習，重復前向傳播和誤差反向傳播過程，當各個訓練模式都滿足要求時，BP網絡訓練完畢。

其中的激發函數我們采用S型函數， 即f(x)=1/(1+exp(-x))。BP算法描述如下：

（2）提供訓練樣本：輸入矢量Xk ,k=1,2,..n 和期望輸出tk, k=1,2,…,m；對每個輸入樣本進行（3）到（5）的迭代。

（3）計算網絡的實際輸出okj 。

（4）分別計算輸出層和隱含層的訓練誤差

其中(4-2)為輸出層的誤差值, (4-3)為隱含層的誤差值。

（5）修正權值和閾值

（6）判斷實際誤差指標是否滿足規定誤差的要求,滿足則到(7)。

（7）結束 。

BP算法是人工神經網絡中最為重要的網絡之一, 也是迄今為止應用最為廣泛的網絡算法, 實踐證明這種基于誤差反傳遞算法可以解決許多實際問題, 但其算法自身也存在著局部極小點、算法的收斂速度慢等缺陷，需要我們在今后的研究中不斷完善改進。