ReLu及其變體如何解決非線性問題

我們知道線性方程可以做到，將一個平面劃分成兩個： 線性函數 − 5 − 2 ∗ x + y -5-2*x +y −5−2∗x+y將一個平面分爲兩部分，使用Relu後，分類邊界不再是橫穿x-y位置的直線。將x軸以下的部分切掉，從而得到上面右側圖中所示的角度區域。 我們加入了四個relu函數，最終的輸出是通過應用一個線性模型將所有這些角區域加到一起來構建的，看起來就像是平面摺疊了一樣。下面顯示了這樣一

>>阅读原文<<