深度學習基礎知識之激活函數

在深度視覺的三大基本任務中，我們構建一個卷積神經網絡，激活函數是必不可少的，例如sigmoid，relu等，下面我們來介紹下激活函數。 什麼是激活函數？ 神經網絡中每層的輸入是上一層的輸出，每層輸出是下一層的輸入，所以在多層神經網絡中，上層節點的輸出和下層節點的輸入之間具有一個函數關係，這個函數稱爲激活函數。 如圖所示： 除輸入層外，每個神經元被分成兩部分，第一部分我們認爲就是上一層的輸出；第二部

>>阅读原文<<