隨機神經網絡之玻爾茲曼機

1、引言 在機器學習以及優化組合問題中，最經常使用的方法就是梯度降低法。好比BP神經網絡，多層感知器的神經元(units)越多，對應的權矩陣也就越大，每一個權可視爲一個自由度或者變量。咱們知道自由度越高，變量越多，模型越複雜，模型的能力越強。可是模型能力越強，模型就越容易過擬合，對噪聲太敏感。另外一方面，使用梯度降低進行最優解搜尋時，多變量的偏差曲面很像是綿亙不絕的山峯同樣，變量越多，山峯和山谷也

>>阅读原文<<