One-Hot表達的致命缺陷

1，sparse大部分是零 2，orthogonal representations每一個都是互相垂直的 3，semantically weak無法表述相關詞背後的語意 獨熱法通常將詞與詞間的語義視爲相互獨立。且每種表達每次只有1個位於高位，其餘均位於低位。這造成了獨熱表示具有高稀疏的特性。

>>阅读原文<<