深度可分離卷積(Depthwise Separable Convolution)和分組卷積(Group Convolution)的理解,相互關係及PyTorch實現

1. 分組卷積(Group Convolution) 分組卷積最早出現在AlexNet中,如下圖所示。在CNN發展初期,GPU資源不足以滿足訓練任務的要求,因此,Hinton採用了多GPU訓練的策略,每個GPU完成一部分卷積,最後把多個GPU的卷積結果進行融合。 接下來回顧一下常規卷積是怎樣進行的,假設輸入的特徵圖(Tensor)的shape爲 C i n × H × W C_{in} \time
相關文章
相關標籤/搜索