DL4NLP---第三講

複習：簡單的word2vec模型 cost fuction（ 求導結果參照視頻教程）： 梯度下降 將所有參數轉換成一個列向量Θ（V爲詞彙數，v是中心詞的word vector，v’是external word vector）： 使用full batch最小化cost將要求計算cost對所有window的導數 更新Θ的每個元素： 向量化表示（對Θ中的所有元素）： 代碼示例： SGD 數據集可能含有4

>>阅读原文<<