word2vec基於Hierarchical softmax的模型細節

參考地址:http://www.cnblogs.com/pinard/p/7243513.html 1,基於Hierarchical softmax的模型的改進點 首選回顧傳統的神經網絡詞向量語言模型,裏面一般有三層:輸入層(詞向量)，隱藏層，輸出層(softmax層)。裏面最大的問題就是在於從隱藏層到輸出層的softmax層的計算量太大，因爲他是要計算所有詞的softmax概率，然後再找到概率最

>>阅读原文<<