卷積層和BN層融合

常規的神經網絡連接結構如下  當網絡訓練完成, 在推導的時候爲了加速運算, 通常將卷積層和 batch-norm 層融合, 原理如下 \[ \begin{align*} y_{conv} &= w \cdot x + b \\ y_{bn} &= \gamma \cdot \left (\frac{y_{conv} - E[x]}{\sqrt{Var[x] + \epsilon}} \right

>>阅读原文<<