固定點分解網絡Fixed-point Factorized Networks

本文的方法第一步是對矩陣做定點分解,第二步是做全精度的權值的恢復,第三步是權值balancing,最後一步是fine-tuning。 同樣是一個8*8的矩陣,把權值分解成兩個矩陣的乘積形式,保證分解後的兩個矩陣是一個定點表示,分解出來的左邊矩陣,是一個ternary,右邊是ternary的一個表示,中間有一個全精度的,浮點的,對稱的矩陣,相當於一個尺度因子。 一個直觀的解釋,如果不考慮正負,他會選
相關文章
相關標籤/搜索