【機器學習】【Highway Network】

文章轉自:https://zhuanlan.zhihu.com/p/35019701 原文鏈接:Highway Networks(2015) 傳統神經網絡,一般對輸入做一個非線性變換H來得到輸出output: x表示輸入,W_H表示權重。 而高速公路網絡基於門機制,引入了transform gata T和carry gate C,輸出由兩個門來控制: 設置C=1-T,公式就變成了: 可以看到式子中
相關文章
相關標籤/搜索