林軒田機器學習基石筆記（第15節）——霍夫丁不等式解決機器學習不可行的難題

在第14節中我們知道，要實現機器學習是很難的，如下圖： 我們可以保證我們的算法在訓練集 D D 中表現得很好，能夠預測出所有的情形。但是我們卻沒有辦法保證在測試集或者未知數據 T T 中依然保持正確。 那要如何解決一難題呢？答案就再概率論裏面！ 看下面這張圖，我們現在有一個罐子，裏面裝有橘色彈珠和綠色彈珠，其中橘色彈珠的真實比例是 μ ，則綠色彈珠的真實比例是1- μ。 現在我們要通過抽樣的方式估

>>阅读原文<<