條件隨機場(CRF)筆記

目錄

• Prerequisite
• HMM（隱馬爾科夫模型）
• 定義：
• 存在的問題：
• CRF
• 定義：
• 因子分解：
• 表示：
• 化簡(向量形式)：
• 求解問題：
• 邊緣概率求解
• 參數估計
• 預測算法

Prerequisite

• Markov隨機場
• 好天氣

HMM（隱馬爾科夫模型）

定義：

我們從一個模型，二個假設，三個問題去簡單認識下HMM。

其中 $Y=(y_1,y_2,\cdots,y_T)^T$Y=(y1​,y2​,⋯,yT​)T爲隱變量（狀態）， $X=(x_1,x_2,\cdots,x_T)^T$X=(x1​,x2​,⋯,xT​)T爲觀測變量（輸出）。
一個模型：
是指HMM是由參數集合 $\lambda=(\pi, A,B)$λ=(π,A,B)決定的。其中 $\pi$π是指 $p(y_i)$p(yi​)，即是初始狀態的概率向量。 $A$A爲狀態轉移矩陣，即是 $A_{ij}=p(y_{t+1}=q_j\vert y_{t}=q_i)$Aij​=p(yt+1​=qj​∣yt​=qi​)。 $B爲發射矩陣$B爲發射矩陣，即是 $B_{ij}=p(x_i=v_j\vert y_i=q_i)$Bij​=p(xi​=vj​∣yi​=qi​)。其中 $q,v$q,v分別是 $y_i和x_i$yi​和xi​的取值集合。
二個假設：
1.齊次馬爾科夫假設：
即是說，任意狀態 $y_i$yi​只會與前一狀態 $y_{i-1}$yi−1​有關，說：
$P(y_i\vert x_1,x_2,\cdots,x_{i-1},y_1,y_2,\cdots,y_{i-1})=P(y_i\vert y_{i-1})$P(yi​∣x1​,x2​,⋯,xi−1​,y1​,y2​,⋯,yi−1​)=P(yi​∣yi−1​)
2.觀測獨立性假設：
即是說，任意觀測（輸出）只依賴於該時刻的狀態，說：
$P(x_i\vert x_1,x_2,\cdots,x_{i-1},y_1,y_2,\cdots,y_{i-1},y_i)=P(x_i\vert y_i)$P(xi​∣x1​,x2​,⋯,xi−1​,y1​,y2​,⋯,yi−1​,yi​)=P(xi​∣yi​)
三個問題：
1.概率計算： $P(X\vert \lambda)$P(X∣λ)
2.學習問題：計算出 $\lambda$λ
3.預測問題： $P(Y\vert X,\lambda)$P(Y∣X,λ)

存在的問題：

如果是在詞性標註問題中，那麼HMM的假設就過於嚴格了，因爲顯然詞性應該和整個文本都有關係。因此CRF就彌補了這一點。

CRF

其中 $Y=(y_1,y_2,\cdots,y_T)^T$Y=(y1​,y2​,⋯,yT​)T爲隱變量（狀態）， $X=(x_1,x_2,\cdots,x_T)^T$X=(x1​,x2​,⋯,xT​)T爲觀測變量（輸入）。

定義：

CRF是指給定隨機變量集合X的條件下，Y隨機變量集合構成馬爾科夫隨機場，由其性質即是有：
$P(Y_v\vert X,Y_w,w\ne v)=P(Y_V\vert X,Y_w,w\sim v)$P(Yv​∣X,Yw​,w​=v)=P(YV​∣X,Yw​,w∼v)
$其中v，w指隨機變量集合的第v,w個元素，w\sim v表示與v有邊相連$其中v，w指隨機變量集合的第v,w個元素，w∼v表示與v有邊相連
等式的含義是， $Y_v$Yv​只與給定 $X$X和與 $v$v有邊相連的節點 $w$w有關。

因子分解：

表示：

Markov隨機場的因子分解通式爲：
$P(Y)=\frac{1}{Z}\prod_{i=1}^N\phi_{c_i}(Y_{c_i})\\ Z=\sum_Y\prod_{i=1}^N\phi_{c_i}(Y_{c_i})$P(Y)=Z1​i=1∏N​ϕci​​(Yci​​)Z=Y∑​i=1∏N​ϕci​​(Yci​​)
$其中，c_i表示第i個最大團，Y_{c_i}表示第i個最大團的隨機變量集合。Z是歸一化因子，\\使得\sum_YP(Y)=1$其中，ci​表示第i個最大團，Yci​​表示第i個最大團的隨機變量集合。Z是歸一化因子，使得∑Y​P(Y)=1。

爲了表示方便，引入了start和stop。
條件隨機場的因子分解：
這裏，我們定義 $\prod_i^N\phi_{c_i}(Y_{c_i})$∏iN​ϕci​​(Yci​​)爲：
$\prod_i^N\phi_{c_i}(Y_{c_i})=\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}$i∏N​ϕci​​(Yci​​)=exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}
$其中，t_k,s_l爲特徵函數，\lambda_k,\mu_l爲權值$其中，tk​,sl​爲特徵函數，λk​,μl​爲權值
$Z=\sum_Y\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}$Z=Y∑​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}

化簡(向量形式)：

$\begin{aligned}&exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}\\ &=exp\{\sum_{t}\big (\sum_{k}^K\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t}^L\mu_ls_l(y_t,x,i)\big)\}\\ 其中：&\lambda=\begin{bmatrix}\lambda_1\\\lambda_2\\\cdot\\\cdot\\\cdot\\ \lambda_k \end{bmatrix}\vec t=\begin{bmatrix} t_1\\t_2\\\cdot\\\cdot\\\cdot\\ t_k\end{bmatrix}\mu=\begin{bmatrix} \mu_1\\\mu_2\\\cdot\\\cdot\\\cdot\\ \mu_l \end{bmatrix}\vec s=\begin{bmatrix} s_1\\s_2\\\cdot\\\cdot\\\cdot\\ s_l\end{bmatrix}\\ &\sum_t\big(\sum_{k}^K\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{l}^L\mu_ls_l(y_t,x,i)\big)\\ &=\sum_t\lambda^T\vec t+\mu^T\vec s\\ 其中，\vec t,\vec s爲y_i,y_{i-1}的函數：\\ &=\lambda^T\sum_t\vec t+\mu^T\sum_t\vec s\\ &令：\theta=\begin{bmatrix}\lambda\\\mu\end{bmatrix} H=\begin{bmatrix} \sum_t\vec t\\ \sum_t\vec s\end{bmatrix}\\ 則：\\ \\P(Y)&=\frac{1}{Z}\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}\\ &=\frac{1}{Z}\exp{(\theta^TH)}\\ \end{aligned}$其中：其中，t ,s 爲yi​,yi−1​的函數：則：P(Y)​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}=exp{t∑​(k∑K​λk​tk​(yt−1​,yt​,x,i)+t∑L​μl​sl​(yt​,x,i))}λ=⎣⎢⎢⎢⎢⎢⎢⎡​λ1​λ2​⋅⋅⋅λk​​⎦⎥⎥⎥⎥⎥⎥⎤​t =⎣⎢⎢⎢⎢⎢⎢⎡​t1​t2​⋅⋅⋅tk​​⎦⎥⎥⎥⎥⎥⎥⎤​μ=⎣⎢⎢⎢⎢⎢⎢⎡​μ1​μ2​⋅⋅⋅μl​​⎦⎥⎥⎥⎥⎥⎥⎤​s =⎣⎢⎢⎢⎢⎢⎢⎡​s1​s2​⋅⋅⋅sl​​⎦⎥⎥⎥⎥⎥⎥⎤​t∑​(k∑K​λk​tk​(yt−1​,yt​,x,i)+l∑L​μl​sl​(yt​,x,i))=t∑​λTt +μTs =λTt∑​t +μTt∑​s 令：θ=[λμ​]H=[∑t​t ∑t​s ​]=Z1​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}=Z1​exp(θTH)​
$\qquad\qquad\qquad\qquad\qquad Z=\sum\limits_Y\exp(\theta^TH)$Z=Y∑​exp(θTH)

求解問題：

邊緣概率求解

前向後向算法：
其主要思想就是找到關於勢函數的遞推式。
$\begin{aligned}P(y_t=a)=&\sum_{y_0,y_1\cdots y_{t-1},y_{t+1},\cdots ,y_T}\frac{1}{Z}\prod_i^T\phi_{c_i}(Y_{c_i})\\ &=\sum_{y_0,y_1\cdots y_{t-1},y_{t+1},\cdots ,y_T}\frac{1}{Z}\phi_{c_1}(Y_{c_1})\phi_{c_2}(Y_{c_2})\cdots\phi_{c_N}(Y_{c_N})\\ 其中：\phi_{c_i}(Y_{c_i})=\phi_{c_i}(y_{i-1},y_i)\\ &=\frac{1}{Z}\sum_{y_T}\sum_{y_{T-1}}\phi_{c_T}(y_{T-1},y_T)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ 令：\\ &\Delta_{left}=\sum_{y_{t-1}}\phi_{c_{t}}(y_{t-1},y_t)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ &\alpha_t(i)=\sum_{y_{t-1}}\phi_{c_{t}}(y_{t-1},y_t=i)\sum_{y_{t-2}}\phi_{c_{t-1}}(y_{t-2},y_{t-1})\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ &\alpha_{t-1}(j)=\sum_{y_{t-2}}\phi_{c_{t-1}}(y_{t-2},y_{t-1}=j)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ 可以發現有：\\ &\alpha_{t}(i)=\sum_j\phi_{c_i}(y_{t-1}=j,y_t=i)\alpha_{t-1}(j)\\ 令:\\ &\Delta_{right}=\sum_{y_{T}}\sum_{y_{T-1}}\phi_{c_T}(y_{T-1},y_T)\cdots\sum_{y_{t+2}}\phi_{c_{t+3}}(y_{t+2},y_{t+3})\sum_{y_{t+1}}\phi_{c_{t+2}}(y_{t+1},y_{t+2})\phi_{c_{t+1}}(y_t=i,y_{t+1})\\ &\beta_t(i)=\sum_{y_{t+1}}\phi_{c_{t+1}}(y_{t}=i,y_{t+1})\sum_{y_{t+2}}\phi_{c_{t+2}}(y_{t+1},y_{t+2})\cdots\sum_{y_{T-2}}\phi_{c_{T-2}}(y_{T-3},y_{T-2})\sum_{y_{T-1}}\phi_{c_{T-1}}(y_{T-2},y_{T-1})\sum_{y_{T}}\phi_{c_T}(y_{T-1},y_T)\\ &\beta_{t+1}(j)=\sum_{y_{t+2}}\phi_{c_{t+2}}(y_{t+1}=j,y_{t+2})\cdots\sum_{y_{T-2}}\phi_{c_{T-2}}(y_{T-3},y_{T-2})\sum_{y_{T-1}}\phi_{c_{T-1}}(y_{T-2},y_{T-1})\sum_{y_{T}}\phi_{c_T}(y_{T-1},y_T)\\ 可以發現有：\\ &\beta_t(i)=\sum_j\phi_{t+1}(y_t=i,y_{t+1}=j)\beta_{t+1}(j)\\ 綜上有遞推式:\\ &\alpha_{t}(i)=\sum_j\phi_{c_i}(y_{t-1}=j,y_t=i)\alpha_{t-1}(j)\\ &\beta_t(i)=\sum_j\phi_{t+1}(y_t=i,y_{t+1}=j)\beta_{t+1}(j)\\ 那麼：\\ &P(y_t=a)=\frac{1}{Z}\alpha_t(a)\beta_t(a)\\ \end{aligned}$P(yt​=a)=其中：ϕci​​(Yci​​)=ϕci​​(yi−1​,yi​)令：可以發現有：令:可以發現有：綜上有遞推式:那麼：​y0​,y1​⋯yt−1​,yt+1​,⋯,yT​∑​Z1​i∏T​ϕci​​(Yci​​)=,yi​)令：可以發現有：令:可以發現有：綜上有遞推式:那麼：​y0​,y1​⋯yt−1​,yt+1​,⋯,yT​∑​Z1​i∏T​ϕci​​(Yci​​)=y0​,y