自然語言幾個重要的模型

自然語言幾個重要的模型。 循環神經網絡 (序列模型序列依賴問題) 雙向循環神經網絡（輸入序列正向和反向依賴問題） 深度雙向循環神經網絡 LSTM（梯度消失問題） GRU text CNN（一維卷積和池化） seq2seq（序列到序列問題） Attention（decoder對encoder輸入序列注意力問題，從輸入獲取可用信息） Transform（對輸入的序列分成q檢索項 k鍵項 v值項進行計算

>>阅读原文<<