遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)探究

前言：本站為你精心整理了遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)探究范文，希望能為你的創(chuàng)作提供參考價(jià)值，我們的客服老師可以幫助你提供個(gè)性化的參考范文，歡迎咨詢。

摘要：針對(duì)電信客戶流失檢測(cè)率較低的問題，基于遺傳算法來優(yōu)化bp神經(jīng)網(wǎng)絡(luò)模型。首先對(duì)客戶信息進(jìn)行可視化分析并選取合適的特征，使用皮爾遜系數(shù)對(duì)特征進(jìn)行相關(guān)性判斷，篩選出有效特征；其次運(yùn)用遺傳算法對(duì)BP神經(jīng)網(wǎng)絡(luò)中的初始化權(quán)值閾值進(jìn)行編碼，經(jīng)選擇、交叉以及變異等操作后得出最優(yōu)的權(quán)值閾值；最后運(yùn)用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行電信客戶流失預(yù)測(cè)。經(jīng)實(shí)驗(yàn)驗(yàn)證，該模型的預(yù)測(cè)結(jié)果優(yōu)于傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)結(jié)果。

關(guān)鍵詞：遺傳算法；BP神經(jīng)網(wǎng)絡(luò)；客戶流失

0引言

隨著世界經(jīng)濟(jì)的發(fā)展，客戶流失問題逐漸受到人們的重視[1-3]。電信公司為此提出了3個(gè)主要策略，即獲得新客戶、追加銷售現(xiàn)有客戶以及延長(zhǎng)客戶的保留期。考慮到每種策略的投資回報(bào)率（ReturnonInvestment，RoI）價(jià)值，延長(zhǎng)客戶的保留期是最有利的策略，其成本遠(yuǎn)低于獲得新客戶[4-6]。對(duì)于電信客戶流失預(yù)測(cè)，國(guó)內(nèi)外有大量的研究。為了處理電信客戶流失的多維數(shù)據(jù)，肖等人提出了一種集成方法，將元代價(jià)敏感學(xué)習(xí)、半監(jiān)督學(xué)習(xí)以及Bagging集成等技術(shù)相結(jié)合，設(shè)計(jì)了代價(jià)敏感的客戶流失預(yù)測(cè)半監(jiān)督集成模型[7]。張等人將生存分析與深度學(xué)習(xí)理論相結(jié)合，即運(yùn)用深度學(xué)習(xí)模型對(duì)電信客戶流失數(shù)據(jù)進(jìn)行建模，根據(jù)建模中客戶的生存狀態(tài)和時(shí)間對(duì)電信客戶進(jìn)行解析，從而判斷出客戶是否流失[8]。在電信客戶流失預(yù)測(cè)中，客戶信息特征具有多維性和復(fù)雜性，數(shù)據(jù)處理對(duì)客戶流失預(yù)測(cè)的準(zhǔn)確性具有較大影響。基于以上問題，結(jié)合國(guó)內(nèi)外電信客戶流失預(yù)測(cè)算法，提出遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的耦合模型。

1相關(guān)技術(shù)原理

1.1BP神經(jīng)網(wǎng)絡(luò)原理

反向傳播（BackPropagation，BP）神經(jīng)網(wǎng)絡(luò)于1986年由Rumelhart和McCelland領(lǐng)導(dǎo)的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入與輸出模式映射關(guān)系，無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。其學(xué)習(xí)規(guī)則是使用最速下降法，通過反向傳播不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，從而使網(wǎng)絡(luò)的誤差平方和達(dá)到最小[9]。BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)可分為3層，分別是輸入層、隱藏層以及輸出層。其中，隱藏層的神經(jīng)元個(gè)數(shù)計(jì)算公式為：h=m+n+a（1）式中：m為輸入層節(jié)點(diǎn)的個(gè)數(shù)，n為輸出層節(jié)點(diǎn)的個(gè)數(shù)，a一般取1～10內(nèi)的整數(shù)。隱藏層的個(gè)數(shù)越多，誤差范圍越小。

1.2遺傳優(yōu)化算法

遺傳算法是模擬達(dá)爾文生物進(jìn)化論中自然選擇和遺傳學(xué)機(jī)理等生物進(jìn)化過程的計(jì)算模型，是一種通過模擬自然進(jìn)化過程搜索最優(yōu)解的方法。依據(jù)BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，確定優(yōu)化BP神經(jīng)網(wǎng)絡(luò)權(quán)值閾值的參數(shù)個(gè)數(shù)，從而確定遺傳算法中個(gè)體的編碼長(zhǎng)度，再根據(jù)適應(yīng)度函數(shù)計(jì)算個(gè)體的適應(yīng)值，經(jīng)過選擇、交叉、變異操作得到最優(yōu)的權(quán)值閾值。1.2.1輪盤賭算法。輪盤賭算法是為了防止適應(yīng)度數(shù)值較小群體中的個(gè)體被直接淘汰而提出的，每一個(gè)個(gè)體被選中的概率與其適應(yīng)度函數(shù)值大小成正比關(guān)系。適應(yīng)度數(shù)值越高，它被選中的概率就越大。設(shè)某一個(gè)體xi的適應(yīng)度值為f(xi)，則部分被選中的概率為：()()()1iiNjjfxPxfx==∑（2）累計(jì)概率為：()()1iijjqxpx==∑（3）式中：xi和xj都表示某個(gè)個(gè)體。首先，計(jì)算每個(gè)部分的被選中概率p(xi)和累積概率q(xi)。其次，隨機(jī)生成一個(gè)數(shù)組m，數(shù)組m中的元素取值范圍為[0,1]。若累積概率q(xi)大于數(shù)組中的元素m[i]，則個(gè)體xi被選中；若小于m[i]，則比較下一個(gè)個(gè)體xi+1，直至選出一個(gè)個(gè)體為止。最后，若需要選擇N個(gè)個(gè)體，則將上述步驟重復(fù)N次即可。1.2.2兩點(diǎn)交叉算法。兩點(diǎn)交叉是指在個(gè)體染色體中隨機(jī)設(shè)置兩個(gè)交叉點(diǎn)，然后進(jìn)行部分基因交換。先從編碼串中不定向選出兩個(gè)交叉點(diǎn)，再對(duì)兩個(gè)交叉點(diǎn)進(jìn)行部分染色體交叉，交叉后產(chǎn)生新個(gè)體，如圖1所示。其中，左側(cè)為交叉前的個(gè)體，右側(cè)為兩點(diǎn)交叉后產(chǎn)生的新個(gè)體。1.2.3高斯變異高斯變異是指進(jìn)行變異操作時(shí)，用符合均值為μ、方差為S2的正態(tài)分布的一個(gè)隨機(jī)數(shù)替代原有的基因值。根據(jù)正態(tài)分布的特性，高斯變異重點(diǎn)搜索原個(gè)體附近的某個(gè)局部區(qū)域。高斯概率密度公式為：其中，標(biāo)準(zhǔn)高斯概率密度的μ和S分別設(shè)置為0和1。高斯變異不僅提高了優(yōu)化算法的優(yōu)化精度，而且有利于跳出局部最優(yōu)區(qū)域。

2模型與實(shí)驗(yàn)分析

本文使用的電信流失客戶數(shù)據(jù)集來自Kaggle平臺(tái)，共有7043條用戶樣本，其中未流失客戶5174人、流失客戶1869人。每條樣本包含21列電信客戶特征，特征信息可分為客戶基本信息、開通業(yè)務(wù)信息、簽署的合約信息以及目標(biāo)變量。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失模型如圖2所示。讀取電信客戶流失數(shù)據(jù)并進(jìn)行特征提取，特征提取過程包括可視化分析、皮爾遜相關(guān)系數(shù)判斷、獨(dú)熱編碼處理以及歸一化處理。電信客戶流失數(shù)據(jù)信息特征如表1所示。皮爾遜相關(guān)系數(shù)（Pearsoncorrelationcoefficient，PCCs）又稱皮爾遜積矩相關(guān)系數(shù)，兩個(gè)變量之間的皮爾遜相關(guān)系數(shù)定義為兩個(gè)變量之間的協(xié)方差和標(biāo)準(zhǔn)差的商，取值范圍為[-1,1][10]。根據(jù)電信客戶流失數(shù)據(jù)信息，TotalCharges、Tenure以及MonthlyCharges特征為數(shù)值特征，對(duì)這3列特征建立皮爾遜相關(guān)系數(shù)矩陣，如圖3所示。由圖3可知，TotalCharges與Tenure、MonthlyCharges相關(guān)性較大，相關(guān)系數(shù)超過0.6，容易引起預(yù)測(cè)結(jié)果降低，故刪除TotalCharges冗余特征。基于遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失預(yù)測(cè)中，將電信客戶流失真實(shí)值分別與BP模型預(yù)測(cè)值、遺傳算法優(yōu)化BP模型（GABP）的預(yù)測(cè)值進(jìn)行對(duì)比，電信客戶流失數(shù)據(jù)經(jīng)歸一化處理后的目標(biāo)變量存在兩個(gè)數(shù)值1和0，其中1表示流失的客戶，0表示未流失的客戶。根據(jù)圖4，基于遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失預(yù)測(cè)值比基于BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失模型的預(yù)測(cè)值更接近于真實(shí)值。BP模型與遺傳算法優(yōu)化BP模型的預(yù)測(cè)值和真實(shí)值誤差對(duì)比如圖4所示。模型預(yù)測(cè)值與真實(shí)值的誤差越接近0，模型效果越好。當(dāng)誤差為0，表示預(yù)測(cè)值等于真實(shí)值。由圖5可知，基于遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失預(yù)測(cè)誤差比基于BP神經(jīng)網(wǎng)絡(luò)的電信客戶流失預(yù)測(cè)誤差更接近于0，表示遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的模型效果好于單獨(dú)的BP神經(jīng)網(wǎng)絡(luò)模型。將兩種模型的平均絕對(duì)誤差（MeanAbsoluteError，MAE）和均方根誤差（RootMeanSquareError，RMSE）進(jìn)行對(duì)比，MAE和RMAE的值越小越好，具體結(jié)果如表2所示。

3結(jié)語

通過遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)來構(gòu)建電信客戶流失模型，采用數(shù)據(jù)可視化分析法去除冗余特征，同時(shí)運(yùn)用皮爾遜相關(guān)系數(shù)去除相關(guān)系數(shù)較大的特征，提高了數(shù)據(jù)預(yù)測(cè)的精準(zhǔn)性。運(yùn)用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值閾值，其結(jié)果優(yōu)于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)，提高了電信客戶流失的分類準(zhǔn)確率和預(yù)測(cè)精準(zhǔn)性，具有一定的使用價(jià)值。

作者:張三妞 單位:昆明理工大學(xué)信息工程與自動(dòng)化學(xué)院