【神經網絡】Dependency Parsing的兩種解決方案

1、Transition-based的依存解析方法

解析過程:首先設計一系列action, 其就是有方向帶類型的邊,接着從左向右依次解析句子中的每個詞,解析詞的同時經過選擇某一個action開始增量構建依存樹, 直到句子中的詞解析完.
優勢:解析過程是線性的, operations步驟隨句子長度線性增加
挑戰:在解析的每一步都只是利用局部信息,會致使錯誤傳播,性能比graph-based效果略差 函數

它的主要思路是先把一個句子變成句法樹,再變成dependency parser,這個方法有點捨近求遠,但它的效果不錯。它一樣會定義一些操做,即在一個序列上不斷作這些操做,直到結束,就能造成一棵樹。主要有如下三種操做:性能

這個模型就是在序列中,插左括號或右括號的非典型性序列打標問題,deep learning在裏面起的做用是,每個左括號和右括號封閉的token,把它們表達成一個更高級的含義。學習

2、Graph-based的依存解析方法

 解析過程:學習一個打分函數,針對一句話在全部可能的解析結果(解析的依存樹)中執行全局的窮舉搜索,獲得一個打分最高的解析樹.
 優勢:目前效果相比transition-based較好
 挑戰:搜索的過程速度很慢 spa

 這個模型是把以前構建數的問題變成距離計算的問題。它本質作的事情是創建一個矩陣,行和列都是這個句子裏的token,每兩個行列中的一個點表示a修飾b的機率或b修飾a的機率的一個得分,最後要造成樹,咱們就是在這個距離向量中找一棵最小生成樹,生成出來的就是dependency parser。設計

相關文章
相關標籤/搜索