林軒田-機器學習基石 課堂筆記（四）Feasibility of Learning

1.Learning is Impossible 課上給出了一個例子，要求通過給出的訓練樣本預測右邊的九宮格輸出結果爲-1還是+1： 而實際上無論你回答-1還是+1，我們都可以說你是錯誤的且能給出看似合理的解釋： 再看另一個例子，輸入爲三維的二進制數字。對於5個訓練樣本，分類效果完全正確，但是在3個測試數據上，預測結果卻不一定正確。 因此，學習可能是做不到的，在訓練集中可以求得一個最佳假設g，但是

>>阅读原文<<