深度學習-自然語言模型隨記

爲什麼要研究深度學習?       語言模型       看概率!         n-gram     一行一行看,比如第一行,i後面接i的出現次數,i後面接want的出現次數。 上面表表示詞後面接某詞的次數,下面表表示詞後面接某詞的概率。       N表示預料庫的大小,小n在建模時一般取2,3就可以,也可以取到4,再大就會造成模型太過龐大。   詞向量     one-hot構造詞向量在此處
相關文章
相關標籤/搜索