深度學習-計算量及GPU顯存

1、計算量MACC與FLOP MACC：表示一次乘法累加。 FLOP：表示計算量，比如一次乘法或加法運算。FLOPs爲FLOP單位，因此1 MACC=2 FLOPs 我們通常統計計算量使用FLOPs（浮點運算數），但是這裏我們使用MACCs或乘法累加數。 理論計算量用FLOPs表示，關係到算法速度，大模型的單位通常爲G，小模型通道爲M。注意兩點： 理論計算量通常只考慮只考慮CONV和FC等參數層的

>>阅读原文<<