基于吉薩金字塔建造算法優(yōu)化概率神經(jīng)網(wǎng)絡(luò)PNN的分類(lèi)預(yù)測(cè) - 附代碼

摘要：針對(duì)PNN神經(jīng)網(wǎng)絡(luò)的光滑因子選擇問(wèn)題，利用吉薩金字塔建造算法優(yōu)化PNN神經(jīng)網(wǎng)絡(luò)的光滑因子的選擇，并應(yīng)用于變壓器故障診斷。

1.PNN網(wǎng)絡(luò)概述

概率神經(jīng)網(wǎng)絡(luò)（ probabilistic neural networks , PNN ）是 D. F. Specht 博士在 1 989 年首先提出的，是一種基于 Bayes 分類(lèi)規(guī)則與 Parzen窗的概率密度面數(shù)估計(jì)方法發(fā)展而來(lái)的并行算 法。它是一類(lèi)結(jié)胸簡(jiǎn)單、訓(xùn)練簡(jiǎn)潔、應(yīng)用廣泛的人工神經(jīng)網(wǎng)絡(luò) 。在實(shí)際應(yīng)用中，尤其是在解決分類(lèi)問(wèn)題的應(yīng)用中， PNN 的優(yōu)勢(shì)在于用線性學(xué)習(xí)算法來(lái)完成非線性學(xué) 習(xí)算法所傲的工作，同 時(shí)保持非線性算法的高精度等特性；這種網(wǎng)絡(luò)對(duì)應(yīng)的權(quán)值就是模式樣本的分布，網(wǎng)絡(luò)不需要訓(xùn)練，因而能夠滿足訓(xùn)練上實(shí)時(shí)處理的要求。

PNN 網(wǎng)絡(luò)是由徑向基函數(shù)網(wǎng)絡(luò)發(fā)展而來(lái)的一種前饋型神經(jīng)網(wǎng)絡(luò)，其理論依據(jù)是貝葉斯最小風(fēng)險(xiǎn)準(zhǔn)則（即貝葉斯決策理論）， PNN作為徑向基網(wǎng)絡(luò)的一種，適合于模式分類(lèi)。當(dāng)分布密度 SPREAD 的值接近于 0 時(shí)，它構(gòu)成最鄰分類(lèi)器； 當(dāng) SPREAD 的值較大時(shí)，它構(gòu)成對(duì)幾個(gè)訓(xùn)練樣本的臨近分類(lèi)器 。 PNN 的層次模型，由輸入層、模式層、求和層、輸出層共 4 層組成 ， 其基本結(jié)構(gòu)如圖 1 所示。
$$f(X,w_i)=exp[?(X?w_i{)}^T(X?W_i)/2\delta ]\text{\hspace{1em}(1)}$$
式中，$w_i$為輸入層到模式層連接的權(quán)值 ；$\delta$為平滑因子，它對(duì)分類(lèi)起著至關(guān)重要的作用。第 3 層是求和層，是將屬于某類(lèi)的概率累計(jì) ，按式（1）計(jì)算 ，從而得到故障模式的估計(jì)概率密度函數(shù)。每一類(lèi)只有一個(gè)求和層單元，求和層單元與只屬于自己類(lèi)的模式層單元相連接，而與模式層中的其他單元沒(méi)有連接。因此求和層單元簡(jiǎn)單地將屬于自己類(lèi)的模式層單元 的輸出相加，而與屬于其他類(lèi)別的模式層單元的輸出無(wú)關(guān)。求和層單元的輸出與各類(lèi)基于內(nèi) 核的概率密度的估計(jì)成比例，通過(guò)輸出層的歸一化處理 ， 就能得到各類(lèi)的概率估計(jì)。網(wǎng)絡(luò)的輸 出決策層由簡(jiǎn)單的闊值辨別器組成，其作用是在各個(gè)故障模式的估計(jì)概率密度中選擇一個(gè)具 有最大后驗(yàn)概率密度的神經(jīng)元作為整個(gè)系統(tǒng)的輸出。輸出層神經(jīng)元是一種競(jìng)爭(zhēng)神經(jīng)元，每個(gè)神經(jīng)元分別對(duì)應(yīng)于一個(gè)數(shù)據(jù)類(lèi)型即故障模式，輸出層神經(jīng)元個(gè)數(shù)等于訓(xùn)練樣本數(shù)據(jù)的種類(lèi)個(gè) 數(shù)，它接收從求和層輸出的各類(lèi)概率密度函數(shù)，概率密度函數(shù)最大的那個(gè)神經(jīng)元輸出為 1 ，即 所對(duì)應(yīng)的那一類(lèi)為待識(shí)別的樣本模式類(lèi)別，其他神經(jīng)元的輸出全為 0 。

圖1.PNN網(wǎng)絡(luò)結(jié)構(gòu)

2.變壓器故障診街系統(tǒng)相關(guān)背景

運(yùn)行中的變壓器發(fā)生不同程度的故障時(shí)，會(huì)產(chǎn)生異常現(xiàn)象或信息。故障分析就是搜集變壓器的異?，F(xiàn)象或信息，根據(jù)這些現(xiàn)象或信息進(jìn)行分析 ，從而判斷故障的類(lèi)型 、嚴(yán)重程度和故障部位 。 因此 ， 變壓器故障診斷的目的首先是準(zhǔn)確判斷運(yùn)行設(shè)備當(dāng)前處于正常狀態(tài)還是異常狀態(tài)。若變壓器處于異常狀態(tài)有故障，則判斷故障的性質(zhì)、類(lèi)型和原因 。 如是絕緣故障、過(guò)熱故障還是機(jī)械故障。若是絕緣故障，則是絕緣老化 、 受潮，還是放電性故障 ；若是放電性故障又 是哪種類(lèi)型的放電等。變壓器故障診斷還要根據(jù)故障信息或根據(jù)信息處理結(jié)果，預(yù)測(cè)故障的可能發(fā)展即對(duì)故障的嚴(yán)重程度、發(fā)展趨勢(shì)做出診斷；提出控制故障的措施，防止和消除故障；提出設(shè)備維修的合理方法和相應(yīng)的反事故措施；對(duì)設(shè)備的設(shè)計(jì)、制造、裝配等提出改進(jìn)意見(jiàn)，為設(shè)備現(xiàn)代化管理提供科學(xué)依據(jù)和建議。

2.1 模型建立

本案例在對(duì)油中溶解氣體分 析法進(jìn)行深入分析后，以改良三比值法為基礎(chǔ)，建立基于概率神經(jīng)網(wǎng)絡(luò)的故障診斷模型。案例數(shù)據(jù)中的 data. mat 是 33 × 4 維的矩陣，前3列為改良三比值法數(shù)值，第 4 列為分類(lèi)的輸出，也就是故障的類(lèi)別 。 使用前 23 個(gè)樣本作為 PNN 訓(xùn)練樣本，后10個(gè)樣本作為驗(yàn)證樣本 。

3.基于吉薩金字塔建造優(yōu)化的PNN網(wǎng)絡(luò)

吉薩金字塔建造算法原理請(qǐng)參考：https://blog.csdn.net/u011835903/article/details/120418542

利用吉薩金字塔建造算法對(duì)PNN網(wǎng)絡(luò)的光滑因子進(jìn)行優(yōu)化。適應(yīng)度函數(shù)設(shè)計(jì)為訓(xùn)練集與測(cè)試集的分類(lèi)錯(cuò)誤率：
f i t n e s s = a r g m i n { T r a i n E r r o r R a t e + P r e d i c t E r r o r R a t e } (2) fitness = argmin\{TrainErrorRate + PredictErrorRate\}\tag{2} fitness=argmin{TrainErrorRate+PredictErrorRate}(2)

適應(yīng)度函數(shù)表明，如果網(wǎng)絡(luò)的分類(lèi)錯(cuò)誤率越低越好。

5.測(cè)試結(jié)果

吉薩金字塔建造參數(shù)設(shè)置如下：

%% 吉薩金字塔建造參數(shù)
pop=20; %種群數(shù)量
Max_iteration=20; %  設(shè)定最大迭代次數(shù)
dim = 1;%維度，即權(quán)值與閾值的個(gè)數(shù)
lb = 0.01;%下邊界
ub = 5;%上邊界

從結(jié)果來(lái)看，吉薩金字塔建造-pnn能夠獲得好的分類(lèi)結(jié)果。

6.參考文獻(xiàn)

書(shū)籍《MATLAB神經(jīng)網(wǎng)絡(luò)43個(gè)案例分析》，PNN原理部分均來(lái)自該書(shū)籍

7.Matlab代碼