【面試】word2vec中負採樣原理及作用

1. 什麼是負採樣?     負採樣(negative sampling)是與正採用相反的含義。      2. 爲什麼採用負採樣? 1)將多分類問題轉換成K+1個二分類問題,從而減少計算量,加快訓練速度。 2)保證模型訓練效果,因爲目標詞只跟相近的詞有關,沒有必要使用全部的單詞作爲負例來更新它們的權重。   3. 補充 負採樣的概率分佈在tensorflow中實現的是: 其中s(w_i))是詞w
相關文章
相關標籤/搜索