探索分類模型中加入詞性和句法特徵

最近一直在作的意看法釋挖掘任務,嘗試加入詞性特徵和句法特徵來提升性能。工具

1、方法性能

調研了一下大概能夠有3種方法在分類模型中加入句法特徵:spa

1. 直接使用stanford nlp工具獲得每一個詞的父親結點信息做爲該詞的句法特徵加入分類模型。blog

2. 用treelstm訓練樹型結構模型,獲得樹中每一個結點的信息,獲取每一個詞在樹中的位置信息做爲句法特徵。這種方法與方法1相比,不只包含了父親結點的信息,還包含有如樹深等更多的信息。it

3. 參考師兄coling論文中的方法,使用Biaffine parse模型的MLP隱層信息做爲句法特徵加入分類模型。這種方法與方法1相比,減小了由stanford nlp的錯誤結果帶來的影響,與方法2相比,MLP隱層信息中不只包含父親結點信息,還包含了弧上關係信息。方法

 

2、實驗結果im

想要加入詞性和句法特徵就須要對語料進行分詞,因此先用結巴分詞進行分詞以後,在分類模型中分別加入詞性特徵和句法特徵,獲得了以下表1的實驗結果:
表1 加入詞性和句法特徵的意看法釋分類結果
 
3、結果分析
實驗結果代表,在乎看法釋分類模型中加入句法特徵不能提高分類性能。可是同時咱們也能夠發現,只加入詞性特徵的分類模型能獲得比以前Baseline模型更高的分類效果,這說明詞性特徵是對分類有效的。
相關文章
相關標籤/搜索