神經網絡與深度學習筆記（三）

第三章 改進神經網絡的學習方法 3.1 交叉熵代價函數     理想的情況：我們希望神經網絡可以從錯誤中快速地學習。     例子：只包含一個輸入的神經元，要做的是讓輸入1轉化爲0.     一開始的時候，隨機初始化權重 w=0.6 w = 0.6 和偏置 b=0.9 b = 0.9 ，那麼初始神經元的輸出是0.82。設置學習率 η=0.15 η = 0.15 ，使用二次函數作爲代價函數 C=12

>>阅读原文<<