HMM模型和Viterbi算法

1、隱含馬爾可夫模型（Hidden Markov Model）

一、簡介

　　隱含馬爾可夫模型並非俄羅斯數學家馬爾可夫發明的，而是美國數學家鮑姆提出的，隱含馬爾可夫模型的訓練方法（鮑姆-韋爾奇算法）也是以他名字命名的。隱含馬爾可夫模型一直被認爲是解決大多數天然語言處理問題最爲快速、有效的方法。

二、馬爾可夫假設

　　隨機過程當中各個狀態S_t的機率分佈，只與它的前一個狀態S_t-1有關，即P(S_t|S₁,S₂,S₃,…,S_t-1) = P(S_t|S_t-1)。

　　好比，對於天氣預報，硬性假定今天的氣溫只與昨天有關而和前天無關。固然這種假設未必適合全部的應用，可是至少對之前不少很差解決的問題給出了近似解。

三、馬爾可夫鏈

　　符合馬爾可夫假設的隨機過程稱爲馬爾可夫過程，也稱爲馬爾可夫鏈。

 

圖：馬爾可夫鏈

 

　　在這個馬爾可夫鏈中，四個圈表示四個狀態，每條邊表示一個可能的狀態轉換，邊上的權值是轉移機率。隱含馬爾可夫鏈是上述馬爾可夫鏈的一個擴展：任一時刻t的狀態S_t是不可見的。因此觀察者無法經過觀察到一個狀態序列S₁,S₂,S₃,…,S_T來推測轉移機率等參數。可是隱含馬爾可夫模型在每一個時刻t會輸出一個符號O_t，並且O_t和S_t相關且僅和S_t相關。這稱爲獨立輸出假設。隱含馬爾可夫模型的結構以下圖，其中隱含的狀態S₁,S₂,S₃,…是一個典型的馬爾可夫鏈。鮑姆把這種模型稱爲「隱含」馬爾可夫模型。

 

圖：隱含馬爾可夫模型

 

 

四、隱含馬爾可夫模型的三個基本問題

（1）給定一個模型，如何計算某個特定的輸出序列的機率？ 

　　Forward-Backward算法

（2）給定一個模型和某個特定的輸出序列，如何找到最可能產生這個輸出的狀態序列？

　　維特比算法

（3）給定足夠量的觀測數據，如何估計隱含馬爾可夫模型的參數？

      訓練隱含馬爾可夫模型更實用的方式是僅僅經過大量觀測到的信號O₁，O₂，O₃，….就能推算模型參數的P(S_t|S_t-1)和P(O_t|S_t)的方法（無監督訓練算法），其中主要使用鮑姆-韋爾奇算法。

 

五、隱含馬爾可夫模型的五元組

HMM是一個五元組（O , Q , O₀，A , B）:

　　O:{o₁,o₂,…,o_t}是狀態集合，也稱爲觀測序列。

　　Q:{q₁,q₂,…,q_v}是一組輸出結果，也稱爲隱序列。

　　A_ij = P(q_j|q_i)：轉移機率分佈

　　B_ij = P(o_j|q_i)：發射機率分佈

　　O₀是初始狀態，有些還有終止狀態。

 

2、維特比算法（Viterbi）

一、簡介

　　維特比算法是一個特殊但應用最廣的動態規劃算法，它是針對籬笆網絡的有向圖（Lattice）的最短路徑問題而提出的。凡是使用隱含馬爾可夫模型描述的問題均可以用維特比算法來解碼，包括今天的數字通訊、語音識別、機器翻譯、拼音轉漢字、分詞等。

 

圖：籬笆網絡

 

二、維特比算法的基礎

（1）若是機率最大的路徑P（或叫最短路徑）通過某個點，好比下圖中的X₂₂，那麼這條路徑上從起始點S到X₂₂的這一段子路徑Q，必定是S到X₂₂之間的最短路徑。不然，用S到X₂₂的最短路徑R替代Q，便構成了一條比P更短的路徑，這顯然是矛盾的。

（2）從S到E的路徑一定通過第i時刻的某個狀態，假定第i時刻有k個狀態，那麼若是記錄了從S到第i個狀態的全部k個節點的最短路徑，最終的最短路徑必通過其中的一條。這樣，在任什麼時候刻，只須要考慮很是有限條最短路徑便可。

 （3）結合上述兩點，假定當咱們從狀態i進入狀態i+1時，從S到狀態i上各個節點的最短路徑已經找到，而且記錄在這些節點上，那麼在計算從起點S到前一個狀態i全部的k個結點的最短路徑，以及從這k個節點到X_i+1，j的距離便可。

 

三、維特比算法總結

（1）從點S出發，對於第一個狀態X₁的各個節點，不妨假定有n₁個，計算出S到它們的距離d(S,X_1i)，其中X_1i表明任意狀態1的節點。由於只有一步，因此這些距離都是S到它們各自的最短距離。

（2）對於第二個狀態X₂的全部節點，要計算出從S到它們的最短距離。對於特色的節點X_2i，從S到它的路徑能夠通過狀態1的n₁中任何一個節點X_1i，對應的路徑長度就是d(S,X_2i) = d(S,X_1i) + d(X_1i,X_2i)。因爲j有n₁種可能性，咱們要一一計算，找出最小值。即：

d(S,X_2i) = min_I=1，n1 d(S,X_1i) + d(X_1i,X_2i)

這樣對於第二個狀態的每一個節點，須要n₁次乘法計算。假定這個狀態有n₂個節

點，把S這些節點的距離都算一遍，就有O(n₁·n₂)次計算。

（3）接下來，相似地按照上述方法從第二個狀態走到第三個狀態，一直走到最後一個狀態，就獲得了整個網格從頭至尾的最短路徑。每一步計算的複雜度都和相鄰兩個狀態S_i和S_i+1各自的節點數目n_i，n_i+1的乘積成正比，即O(n_i·n_i+1)

（4）假設這個隱含馬爾可夫鏈中節點最多的狀態有D個節點，也就是說整個網格的寬度爲D，那麼任何一步的複雜度不超過O(D²)，因爲網格長度是N，因此整個維特比算法的複雜度是O(N·D²)。

 

3、HMM模型+維特比算法實例

一、問題描述

假設連續觀察3天的海藻溼度爲(Dry,Damp,Soggy),求這三天最可能的天氣狀況。

 

二、已知信息

①天氣只有三類(Sunny,Cloudy,Rainy)，海藻溼度有四類{Dry,Dryish, Damp,Soggy }，並且海藻溼度和天氣有必定的關係。

②隱藏的狀態：Sunny, Cloudy, Rainy;

③觀察狀態序列：{Dry, Damp, Soggy}

④初始狀態序列：

Sunny	Cloudy	Rainy
0.63	0.17	0.20

 

 

 

⑤狀態轉移矩陣：

	Sunny	Cloudy	Rainy
Sunny	0.5	0.375	0.125
Cloudy	0.25	0.125	0.625
Rainy	0.25	0.375	0.375

 

 

 

 

 

 

⑥發射矩陣：

	Dry	Dryish	Damp	Soggy
Sunny	0.6	0.2	0.15	0.05
Cloudy	0.25	0.25	0.25	0.25
Rainy	0.05	0.10	0.35	0.5

 

 

 

 

 

 

 

三、分析

　　由一階HMM可知，Day2的天氣僅取決於Day1；Day3的天氣又只取決於Day2的天氣。

 

四、計算過程

（1）Day1因爲是初始狀態，咱們分別求

P(Day1-Sunny)=0.63*0.6;

P(Day1-Cloudy)=0.17*0.25;

P(Day1-Rain)=0.20*0.05;

Choose max{ P(Day1-Sunny) , P(Day1-Cloudy),P(Day1-Rainy)}, 獲得P(Day1-Sunny)最大，得出第1天Sunny的機率最大。

 

（2）Day2的天氣又取決於Day1的天氣情況，同時也受Day2觀察的海藻狀況影響。

P(Day2-Sunny)= max{ P(Day1-Sunny)*0.5, P(Day1-Cloudy)*0.25,  P(Day1-Rainy)*0.25} *0.15;

P(Day2-Cloudy)= max{ P(Day1-Sunny)*0.375,  P(Day1-Cloudy)*0.125, P(Day1-Rainy)*0.625} *0.25;

P(Day2-Rainy)= max{ P(Day1-Sunny)*0.125,  P(Day1-Cloudy)*0.625 , P(Day1-Rainy)*0.375} *0.35;

Choosemax{ P(Day2-Sunny) , P(Day2-Cloudy), P(Day2-Rainy)},獲得P(Day2-Rainy)最大，得出第2天Rainy的機率最大。

故{Sunny,Rainy}是前兩天最大可能的天氣序列。

 

（3）Day3的天氣又取決於Day2的天氣情況，同時也受Day3觀察的海藻狀況影響。

　　P(Day3-Sunny)= max{ P(Day2-Sunny)*0.5, P(Day2-Cloudy)*0.25,  P(Day2-Rainy)*0.25} *0.05;

　　P(Day3-Cloudy)= max{ P(Day2-Sunny)*0.375,  P(Day2-Cloudy)*0.125, P(Day2-Rainy)*0.625} *0.25;

　　P(Day3-Rainy)= max{ P(Day2-Sunny)*0.125,  P(Day2-Cloudy)*0.625, P(Day2-Rainy)*0.375} *0. 05;

 

　　Choosemax{ P(Day3-Sunny) , P(Day3-Cloudy), P(Day3-Rainy)},獲得P(Day3-Rainy)最大，得出第3天Rainy的機率最大。故{Sunny,Rainy,Rainy}是這三天最可能的天氣序列。