極化碼之高斯近似

咱們知道，極化碼的誕生在伴隨着「到達香農限」的光榮頭銜的同時，也遺憾的存在許多缺點。

極化碼有兩大法寶——低複雜度和高可靠性。其中高可靠性的前提條件爲「碼長較長時」，在短碼領域，因爲信道極化的不充分，極化碼並不能很好的逼近香農限。低複雜度也有前提條件，就是它是基於BEC（二元刪除信道）提出的，在BEC信道下，極化碼的編碼和譯碼都具備較低的複雜度。然而，在其餘信道上咱們不得不採用各類近似手段，如蒙特卡洛法、密度進化法等，這些方法的引入使得極化碼的低複雜度特色受到必定的衝擊。

在上一章節的極化碼編碼之中，咱們提到了高斯近似這個構造極化碼的重要方法。本節，咱們來詳細介紹一下在AWGN信道下，如何利用高斯近似法克服極化碼「水土不服」的高傲特性。

AWGN信道

　　AWGN（加性高斯白噪聲）是無線通訊中很是常見的一種噪聲模型，噪聲的幅度服從正態分佈，功率譜密度均勻分佈。以AWGN爲噪聲的信道稱爲AWGN信道，是通訊系統之中常常用到的一個理想信道模型。

 

假設

　　咱們在AWGN信道下，採用BPSK調製，以極化碼做爲信道編碼方案，傳輸一組信息。

 

預備知識

　　假設輸入符號集爲X，則X={0,1}。

　　假設輸出爲y，則根據BPSK調製原理，

　　其中，n爲噪聲變量，服從高斯分佈：

　　根據機率論中的知識，由指望和方差的性質能夠發現，y也是一個高斯隨機變量，且，其中m取值爲±1。

　　根據高斯分佈機率密度函數，高斯隨機變量y的機率密度能夠表示爲：　　對於AWGN信道，信道的轉移機率爲W(y|x)。咱們在接收端獲得一個y值，與之對應的x有兩種可能——{0,1}。因而有：　　咱們對y經過似然判決法進行解碼，設似然比LR爲：

　　將上面兩個式子代入分式之中，獲得：　　定義對數似然比LLR=log LR，則：　　由於1/σ^2能夠視爲常數，所以發現LLR也是一個高斯隨機變量，易得：

 

對稱一致條件

　　對於一個隨機變量n，若是其機率密度函數知足：

　　咱們稱這個變量知足「對稱一致條件」

　　知足對稱一致條件的隨機變量的方差是均值的兩倍。

　　令m=1，也即假設發送端發送的全都是0。LLR的均值變爲方差的一半，咱們能夠把LLR的密度函數表達式代入上式檢查一致性，結論是LLR符合對稱一致條件。

　　上面鋪墊的已經差很少了，咱們如今引入高斯近似法的結論/定理/假設：

高斯假設

　　你們能夠看到，這是我直接從論文中截出來的圖。我所參考的兩篇論文均來自於同一位做者，中英兩版各有側重。論文標題放在這裏，感興趣的能夠本身去看：

　　【1】《極化碼構造與譯碼算法研究》吳道龍[著]

　　【2】《Construction and Block Error Rate Analysis of Polar Codes Over AWGN Channel Based on Gaussian Approximation》by Daolong Wu etc

　　下面咱們探討如何證實這個假設，以及這個假設如何可以應用到極化碼的構造之中。

　　首先咱們來定義一種全新的運算

box plus

　　「」，這個運算爲box plus，很形象。定義式：

 　　觀察等式右邊的分式，發現它與Arikan遞推公式在形式上很是類似：　　對於似然比LR：　　根據對數似然比的定義，由LLR = ln LR獲得LR = e^LLR，咱們發現，LLR知足box plus的形式。

　　咱們將LR映射到其對數域LLR中，並從新改寫Arikan遞推公式：　　先來觀察j=1時的狀況。　　對於這個式子，觀察等式右邊的兩個因子。根據遞推公式，咱們能夠獲得：　　因而，咱們獲得：

　　根據咱們以前所獲得的結論，當咱們傳輸全0比特時，LLR服從高斯分佈，且符合對稱一致條件。上式中，從L₁到L_N都具備這種屬性。

　　根據高斯近似定理：能夠用一個高斯隨機變量進行近似，均值爲。

　　咱們知道，Arikan遞推公式有兩個，剛纔咱們只是對第一個作了近似，那麼第二個呢？

　　一樣咱們把原公式映射到對數域中，寫出i=1時的形式：　　觀察這個式子，從這裏能夠體現高斯假設中「假定前i-1個比特都正確解碼」這個條件的做用。由於咱們假定全0傳輸，當前i-1個比特解碼成功有，因而，上面公式的指數項消失。因爲相加的兩個因子都是知足對稱一致條件的高斯隨機變量，所以也是一致高斯隨機變量，服從方差爲均值二倍的高斯分佈。

　　這是一個特例，從其中咱們能夠發現，不管i是奇數仍是偶數，對應的信道咱們都能用高斯近似的辦法使得該信道的對數似然值成爲一致高斯隨機變量。

　　推廣來講，經過遞推手段，咱們能夠獲得第i個信道的對數似然值的均值：

　　對於，當i爲奇數時：

　　當i爲偶數時：　　基於上面的分析，咱們能夠獲得下面的結論：

　　（全0發送時）當以前的i-1個比特全都正確譯碼，SC譯碼的第i個比特的譯碼對數似然比LLR爲一個一致高斯隨機變量，設對數似然比均值爲E，則LLR~N(E,2E)。由此，根據BPSK調製下的誤碼率性能公式：

　　其中，r爲信噪比，，a爲均值，σ_n²爲噪聲方差。

　　能夠獲得，第i個比特的錯誤機率爲：

　　其中，爲一個事件集合。

　　到這裏，高斯假設已經被證實。那麼，這個假設又是如何引用到極化碼的構造之中的呢？咱們繼續來探討。

　　定義事件爲「一組長度爲N的碼塊發生了錯誤」，則表示發生誤組事件的機率。容易獲得：　　很明顯，咱們若是想要誤組率儘量的小，可讓儘量的小。根據的表達式，因爲互補偏差函數erfc()是單調遞減的，因此咱們要讓E儘量的大。

　　咱們獲得了一條關鍵的線索，爲了構造錯誤儘量小的極化碼，問題轉化爲尋找儘量大的E。沿着這一思路，咱們只須要想辦法求出全部信道的E造成參數向量，而後對參數向量進行排序，再根據給定的碼率選擇E較大的那一部分信道做爲信息位，就可以實現咱們的目的。

　　求E的步驟很好理解，它跟咱們的SC譯碼很是類似，咱們從解碼圖的最右側開始求起。

　　對於解碼圖的最右側一列，咱們已經證實他們的對數似然比全都是一致高斯隨機變量，符合高斯分佈。

　　而後咱們開始往左側遞推，i爲奇數時使用近似公式，i爲偶數時直接乘以二倍。迭代求解，直至求得全部信道的對數似然值均值。

性能與複雜度

　　高斯近似的性能怎麼樣，這種辦法靠不靠譜？

　　

　　圖片引用自論文《Construction and Block Error Rate Analysis of Polar Codes Over AWGN Channel Based on Gaussian Approximation》

　　能夠看到，與蒙特卡洛法相比，高斯近似法在誤碼性能上表現的還能夠，基本可以與蒙特卡洛法比肩。

　　在複雜度上，蒙特卡羅法複雜度爲O(NlogN)，而密度進化與高斯近似複雜度均爲O(n)。

 　　從複雜度和誤碼性能上綜合來看，高斯近似無疑更加適用於高斯信道下的極化碼構造。