自然語言處理與詞嵌入

詞彙表特徵 有一個詞典，裏面有10000個單詞。使用one-hot的表示方法，每個單詞的表示向量有10000個元素，單詞對應的位置爲1，其他位置爲0。比如，單詞」Man」在詞典的5391位，那麼」Man」的表示向量爲 ⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢0⋮1⋮0⎤⎦⎥⎥⎥⎥⎥⎥⎥⎥ [ 0 ⋮ 1 ⋮ 0 ] ，」1」在第5391位。 這樣表示單詞有一個缺點，就是去掉了單詞之間的相關性。假設模型學會了」I wa

>>阅读原文<<