隨機神經網絡之玻爾茲曼機

原文鏈接  在機器學習以及優化組合問題中，最常用的方法就是梯度下降法。比如BP神經網絡，多層感知器的神經元(units)越多，對應的權矩陣也就越大，每個權可視爲一個自由度或者變量。我們知道自由度越高，變量越多，模型越複雜，模型的能力越強。但是模型能力越強，模型就越容易過擬合，對噪聲太敏感。另一方面，使用梯度下降進行最優解搜尋時，多變量的誤差曲面很像是連綿起伏的山峯一樣，變量越多，山峯和山谷也越多，

>>阅读原文<<