變分推斷

      變分推斷是近年來深度學習中一個非常重要的技術手段。推斷困難通常是指難以計算p(h|v)或其期望，其中v指的是模型的可觀測變量，而h表示隱藏變量。在深度神經網絡中，多層的隱藏變量之間聯繫複雜，無法通過一個具體地概率密度函數來刻畫隱藏變量的實際分佈情況。即使對於單層的稀疏編碼器，倘若隱變量之間沒有相關的獨立性假設，其內部隱藏單元的概率分佈密度函數也是很難刻畫的，原因是當輸出變量被觀測時，其

>>阅读原文<<