NLP ——GloVe

NLP ——GloVe glove是一個全局對數雙線性迴歸模型(global log bilinear regression model)。顧名思義,該模型用到了語料庫的全局特徵,即單詞的共現頻次矩陣,並且,其優化目標函數是對數線性的,並用迴歸的形式進行求解。本質上是對共現矩陣進行降維。 首先基於語料庫構建詞的共現矩陣,然後基於共現矩陣和GloVe模型學習詞向量。 對於中心詞: 中心詞變換: 現在
相關文章
相關標籤/搜索