WordPress方糖無錫網(wǎng)站建設(shè)優(yōu)化公司
天馬行空的理解與思考方式：分?jǐn)?shù)階傅里葉變換與信息熵怎么用于信號(hào)處理？
ChiX-Y
快速學(xué)習(xí)，快速嘗試，快速失敗
已關(guān)注
35 人贊同了該文章
這篇文章希望能寫的有趣，同時(shí)有質(zhì)量，學(xué)習(xí)就是要多維度多角度！
信息熵怎么用于各類信號(hào)處理？（信號(hào)特征提取？信號(hào)識(shí)別與分類？）
一.什么是信息熵？
熱力學(xué)中的熱熵是表示分子狀態(tài)混亂程度的物理量，而信息熵的概念是用來描述信源的不確定度的；信息論之父香農(nóng)曾在論文中提出“任何信息都存在冗余，冗余大小與信息中每個(gè)符號(hào)（數(shù)字、字母或單詞）的出現(xiàn)概率或者說不確定性有關(guān)?！毕戕r(nóng)借助熱力學(xué)概念，把信息中排除了冗余后的平均信息量稱為“信息熵”。
通常，一個(gè)信源發(fā)送出什么符號(hào)是不確定的，衡量它可以根據(jù)其出現(xiàn)的概率來度量。出現(xiàn)的概率大，則不確定性小，所提供的信息量就少；反之不確定性就大。
根據(jù)以上定義和描述，可以得到不確定性函數(shù)應(yīng)具有的兩個(gè)條件：
①不確定性函數(shù)?f?是概率?p?的減函數(shù)；②兩個(gè)獨(dú)立符號(hào)所產(chǎn)生的不確定性應(yīng)等于各自不確定性之和，即?f(p1,p2)=f(p1)+f(p2)?,這是不確定性函數(shù)的可加性。
同時(shí)滿足以上兩個(gè)條件的函數(shù)?f?是對(duì)數(shù)函數(shù)，即?f(p)=log1p=?log(p)
在信源中，考慮的不是某一單個(gè)符號(hào)發(fā)生的不確定性，而是要考慮這個(gè)信源所有可能發(fā)生情況的平均不確定性。若某個(gè)信源可以出現(xiàn)n種符號(hào)來傳遞信息：?U1...Ui...Un?，對(duì)應(yīng)的概率為：?p1...pi...pn?，且各種符號(hào)的出現(xiàn)彼此獨(dú)立。這時(shí)，信源的平均不確定性應(yīng)當(dāng)為單個(gè)符號(hào)不確定性??log(pi)?的統(tǒng)計(jì)平均值（E），稱為信息熵，即?H(U)=E[?log(pi)]=?∑i=1npilog(pi)
上式中的對(duì)數(shù)一般取2為底，單位為比特。
離散的信源信息熵具有：①非負(fù)性 ②對(duì)稱性 ③確定性 ④極值性
二.分?jǐn)?shù)階傅里葉變換
為了能讓信息熵更好的在信號(hào)處理中派上用場，需要先學(xué)習(xí)一種更高級(jí)的信號(hào)處理數(shù)學(xué)工具
分?jǐn)?shù)階傅里葉變換
這里真的很想吐槽一下，網(wǎng)上關(guān)于分?jǐn)?shù)階傅里葉變換的學(xué)習(xí)資料真的是蠻少的，很多“大佬”對(duì)于這個(gè)數(shù)學(xué)方法的描述就是列出來一大堆復(fù)雜而又難懂的數(shù)學(xué)公式，看懂了數(shù)學(xué)公式，理清了推導(dǎo)過程也只是“知其然，而不知其所以然”，所以承擔(dān)著掉幾根頭發(fā)的代價(jià)...我想到了一種以圖像來理解分?jǐn)?shù)階傅里葉變換本質(zhì)思想的方法，這將有助于后續(xù)的信號(hào)處理應(yīng)用。當(dāng)然，如果有數(shù)學(xué)系大佬指出其中理解不妥的地方，那真的非常感激！
我們不著急從這個(gè)復(fù)雜的數(shù)學(xué)方法入手，作為一個(gè)基本的工科生，我們一定是學(xué)過傅里葉變換的，如果你在平日的學(xué)習(xí)中習(xí)慣于思考，那么你一定會(huì)記得傅里葉變換就是在“幫助我們換個(gè)角度看世界”。
“世界變化無常，可換個(gè)角度，或許只是已經(jīng)寫好的樂章?！?/strong>
傅爺爺告訴我們，任何周期函數(shù)（非周期函數(shù)需要無數(shù)個(gè)），都可以由許多不同振幅，不同相位的正弦波疊加而來。我們看一下下面這一張來自維基百科的圖。
最前面那條黑色的函數(shù)曲線（矩形波），可以由后面多條正弦曲線疊加而成，這些依不同顏色排列而成的正弦曲線就是組合成為矩形波的各個(gè)頻率分量。細(xì)心的你可能發(fā)現(xiàn)中間有一些直線，這些直線是振幅為0的正弦曲線，這就說明為了組成不同的曲線，有些頻率成分是不需要的！
OK，既然我們已經(jīng)回憶了一般的傅里葉變換做了什么事情，那我們接下來就可以想一下，一條時(shí)間維度上的信號(hào)曲線到底換了怎么樣的角度而到了我們想要頻域空間呢？？必須要天馬行空的想想，這對(duì)于幫助我們理解分?jǐn)?shù)階傅里葉變換有著至關(guān)重要的作用！
我們看下面這張圖：
一開始，我（ChiX-Y）站在垂直時(shí)間軸而平行于頻率軸的方向，這個(gè)時(shí)候我看到的就是那一條紅色的曲線（它由后面許多不同頻率成分的正弦波疊加而成），從這個(gè)角度看到的紅色曲線其實(shí)就是時(shí)間域上的信號(hào)曲線了，ok，那么我要換什么角度才能夠看到頻域世界里這條曲線的模樣呢？我想你們一定已經(jīng)想到了，對(duì)，就是逆時(shí)針旋轉(zhuǎn)90°以后，從側(cè)面方向來看這一天紅色曲線！！！（如下圖）
我走到上圖中的這個(gè)角度以后，我看到各個(gè)頻率成分的正弦曲線就是一條條平行于Z軸的豎線，而此時(shí)的橫軸是頻率軸，怎么樣？熟悉嗎？這不就是我們一直以來求的頻譜嗎！！！
所以我們完全可以這么去解釋傅里葉變換：信號(hào)的Fourier變換可以看成將其在時(shí)間軸上逆時(shí)針旋轉(zhuǎn) π/2到頻率軸上的！換句好理解的話來講，信號(hào)的Fourier變換就是從時(shí)間軸角度轉(zhuǎn)了90°到頻率軸上來看到的新世界！
OK，既然我想到了以這么一種立體而又形象的角度去看待傅里葉變換，那么接下來的分?jǐn)?shù)階傅里葉變換就容易解釋了！
所謂的分?jǐn)?shù)階傅里葉變換就是換更多的角度去看待問題，怎么解釋？
就是我在從初始位置走向90°方位的時(shí)候，并不是一次性的就走過去了，而是每走一定的角度就停下來看一看我們?cè)诋?dāng)前角度下能夠看到紅色信號(hào)曲線的什么特征與特性，并記錄每個(gè)角度下“頻率域”的頻譜，這么做是因?yàn)榇蟛糠值男盘?hào)都是非平穩(wěn)信號(hào)，僅僅用傅里葉變換不足以分析其顯著的特征，運(yùn)用分?jǐn)?shù)階傅里葉變換主要是能選取信息最集中的角度去分析。
大家想想，分析問題的角度越多，是不是解決問題的方法就越完善呢？
到這里我希望大家是能夠理解了我分析這個(gè)數(shù)學(xué)方法的角度，也希望各位能夠從復(fù)雜的數(shù)學(xué)公式中跳脫出來，真正理解了分?jǐn)?shù)階傅里葉變換到底做了什么事情，做到了這一點(diǎn)，讓我想到了利用信息熵來做信號(hào)處理的一種思路！
三.信息熵+分?jǐn)?shù)階傅里葉變換->信號(hào)處理
如果理解了前文我所寫的全部內(nèi)容，那么接下來這個(gè)信號(hào)處理的思路就真的很簡單了，算是自己的一些想法吧，我拿心電信號(hào)來舉例子：
（1）采集一段心電信號(hào)并做預(yù)處理，獲得信號(hào)d
（2）對(duì)信號(hào)d進(jìn)行n個(gè)階次（n個(gè)角度，大家懂的！）的分?jǐn)?shù)階傅里葉變換，從而進(jìn)一步得到每一個(gè)階次變換的幅度譜?Fi
（3）對(duì)幅度譜?Fi歸一化后，計(jì)算每一個(gè)幅度譜的信息熵，n個(gè)階次對(duì)應(yīng)n個(gè)信息熵，從而得到一個(gè)n點(diǎn)長的向量[E1,...,Ei,...,En]，這個(gè)向量就可以作為心電信號(hào)所提取的特征，然后進(jìn)一步用于算法的學(xué)習(xí)與信號(hào)分類。
這樣的思路我認(rèn)為有兩個(gè)優(yōu)勢(shì)：第一是從更多的角度去提取信號(hào)的特征，使得信號(hào)特征更為豐富與全面，能夠提升對(duì)信號(hào)分類與識(shí)別準(zhǔn)確率；第二是利用信息熵有效緩解了角度過而導(dǎo)致的特征過于復(fù)雜的問題，因?yàn)橐粋€(gè)角度的信息熵只有一個(gè)值哦！
四.有趣的感悟
我們眼中的世界就像是一條條時(shí)域中的曲線，變換多端，毫無規(guī)律，難以預(yù)測(cè)......但或許真的存在一種角度，能夠看到其實(shí)我們的世界真的沒有那么復(fù)雜，它只是一場已經(jīng)安排好的音樂會(huì)，每一個(gè)音符都已經(jīng)注定會(huì)出現(xiàn)，就像是頻譜中一條條平行于Z軸的直線，簡單清晰。
編輯于 2021-08-13 12:25