【機器學習基礎】神經網絡正則化

本系列爲《模式識別與機器學習》的讀書筆記。 一，相容的⾼斯先驗 神經⽹絡的輸⼊單元和輸出單元的數量通常由數據集的維度確定，⽽隱含單元的數量 M M M 是⼀個⾃由的參數，可以通過調節來給出最好的預測性能。 控制神經⽹絡的模型複雜度來避免過擬合，根據對多項式曲線擬合問題的討論，⼀種⽅法是選擇⼀個相對⼤的 M M M 值，然後通過給誤差函數增加⼀個正則化項，來控制模型的複雜度。最簡單的正則化項是⼆次的

>>阅读原文<<