GPU的硬件結構中與CUDA相關的幾個概念：thread block grid warp sp sm

streaming processor(sp): 最基本的處理單元，streaming processor 最後具體的指令和任務都是在sp上處理的。GPU進行並行計算，也就是很多個sp同時做處理。現在SP的術語已經有點弱化了，而是直接使用thread來代替。一個SP對應一個thread。 Warp：warp是SM調度和執行的基礎概念，同時也是一個硬件概念，注意到Warp實際上是一個和硬件相關的概念

>>阅读原文<<