處理器的計算能力如何計算

咱們經常使用雙精度浮點運算能力衡量一個處理器的科學計算的能力,就是處理64bit小數點浮動數據的能力 支持AVX2的處理器的單指令的長度是256bit,每一個intel核心假設包含2個FMA,一個FMA一個時鐘週期能夠進行2次乘或者加的運算,那麼這個處理器在1個核心1個時鐘週期能夠執行256bit*2FMA*2M/A/64=16次浮點運算,也稱爲16FLOPs,就是Floating Point O
相關文章
相關標籤/搜索