LSTM初學（二）
一、激活函數 1.sigmoid 數學形式：f(x)=1/(1+e^(-x)) 2.tanh 數學形式：f(x)=2/(1+e^(-2x))-1 LSTM中應用了這兩種激活函數，sigmoid 用在各種gate上，產生0~1之間的值，而tanh 用在狀態和輸出上，是對數據的處理，這個用其他激活函數或許也可以。 2.Relu 數學形式：f(x)=max(0,x)
相關文章
- 1. RNN學習(二)——LSTM
- 2. LSTM初探
- 3. Pytorch學習筆記（二）LSTM
- 4. 初學者對LSTM的理解
- 5. RNN之LSTM(二)
- 6. git初學二、
- 7. TensorFlow初學（二）
- 8. 初學SpringBoot（二）
- 9. 初學HTML（二）
- 10. 初學PHP（二）
- 更多相關文章...
- • Hibernate的二級緩存 - Hibernate教程
- • 您已經學習了 XML Schema，下一步學習什麼呢？ - XML Schema 教程
- • 適用於PHP初學者的學習線路和建議
- • Kotlin學習（二）基本類型
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
歡迎關注本站公眾號,獲取更多信息
相關文章
- 1. RNN學習(二)——LSTM
- 2. LSTM初探
- 3. Pytorch學習筆記（二）LSTM
- 4. 初學者對LSTM的理解
- 5. RNN之LSTM(二)
- 6. git初學二、
- 7. TensorFlow初學（二）
- 8. 初學SpringBoot（二）
- 9. 初學HTML（二）
- 10. 初學PHP（二）