爲什麼GPU對於深度學習如此重要？

正如大多數人所知道的，GPU的處理速度之快得益於它可以高效地處理矩陣乘法和卷積，但是大家並不一定知道真正的理由。GPU如此快速的真正原因是內存帶寬和不必要的並行。 高帶寬 首先，大家必須得明白CPU是基於延遲優化的，而GPU是基於帶寬優化的。CPU與GPU就像法拉利與卡車，兩者的任務都是從隨機位置A提取貨物（即數據包），並將這些貨物傳送到另一個隨機位置B，法拉利（CPU）可以快速地從RAM裏獲取一

>>阅读原文<<