神經網絡與深度學習 邱錫鵬 私人學習筆記1

1、經驗風險最小化 2、結構風險最小化 最小二乘估計的基本要求是各個特徵之間要相互獨立，保證XX的轉置 可逆。但即使其可逆，如果特徵之間可能會有較大的共線性，也會使得 XX的轉置 的逆在數值上無法準確計算。數據集上的一些小的擾動就會導致 XX的轉置 的逆發生重大改變，進而使得最小二乘估計的計算變得很不穩定，爲了解決這個問題，用嶺迴歸來解決問題。 3、特徵選擇 4、評價指標 5、PAC學習理論

>>阅读原文<<