Hinton Neural Networks課程筆記2d:爲什麼感知機的學習算法可以收斂

感知機的學習算法非常簡單,就是每次選取一個樣本,如果預測錯誤,則根據樣本真值,權重加減一個輸入向量。這和一般使用的附有學習率的優化算法不一樣,沒有一個超參數,使其快速而且簡潔。而爲什麼這樣一個簡單的算法可以work,Hinton在這節加以說明。注意此部分是直觀層次的解釋,不是嚴謹的數學推導。 上一節有提到感知機的幾何解釋,其中有一個結論是在權重空間內,感知機的合法解是連續的,位於一個被多個超平面限
相關文章
相關標籤/搜索