Towards Accurate Binary Convolutional Neural Network

本文提出了一種使用多個二進制網絡的線性組合來擬合複雜網絡的方法,它是首個在ImageNet上效果接近全精度網絡的二進制網絡。 其優化目標如下: w是全精度權重,B爲量化權重,α爲每個二進制網絡的係數: 爲了能使反向傳播正常進行,設定下式: ui的取值區間是[-std(W),std(W)]。 前向和反向傳播的過程如下: 整體框架如下: 左邊每個框框是一個近似的全精度網絡,其中每一個都是一個二進制網絡
相關文章
相關標籤/搜索