迴歸、分類問題中激活函數、誤差函數選擇解釋

迴歸、分類問題中激活函數、誤差函數選擇解釋 對於迴歸問題，我們一般假設t服從高斯分佈，均值與x有關，即 對於以上條件，我們選擇的激活函數是恆等函數即可，因爲這樣就可以近似任何從X到Y的連續函數。在優化時，對於給定的獨立同分布的觀測數據，其似然函數爲： 最大化似然函數，等價於最小化負的對數似然即： 這也就說明了在假設條件分佈式高斯分佈的前提下，最大化似然與最小化平方和誤差是相等的。 通過求導令爲0，

>>阅读原文<<