【隨筆】**函數是怎樣一種存在？

神經元的工作模型存在「**（1）」和「抑制（0）」兩種狀態的跳變，那麼理想的**函數就應該是如圖 6-7（a）所示的階躍函數。 但事實上，在實際使用中，這類函數具有不光滑、不連續等衆多不「友好」的特性，使用得並不廣泛。爲什麼說它「不友好」呢，這是因爲在訓練網絡權重時，通常依賴對某個權重求偏導、尋極值，而不光滑、不連續等通常意味着該函數無法「連續可導」。 因此，我們通常用 sigmoid()函數來代

>>阅读原文<<