二值化神經網絡

 什麼是二值化網絡 二值化神經網絡,是指在浮點型神經網絡的基礎上,將其權重矩陣中權重值和各個激活函數值同時進行二值化獲得的神經網絡。二值化神經網絡具備很好的特性,具體體如今: 經過將權重矩陣二值化,一個權重值只佔用一個比特,相比於單精度浮點型權重矩陣,網絡模型的內存消耗理論上能減小32倍,所以二值化神經網絡在模型壓縮上具備很大的優點。 當權重值和激活函數值同時進行二值化以後,原來32個浮點型數的乘
相關文章
相關標籤/搜索