SSE入門

來源:http://blog.csdn.net/bendanban/article/details/42299863數組

 

此文主要內容來自這篇文章,本文翻譯只求逐句翻譯。函數

正文:性能

咱們將在本文中介紹如何在C++/C中使用SSE指令。個人目的不是用SSE寫儘量快的程序,而是試圖講明白它的使用方法。學習

 

什麼是SSE?

 SSE的全稱是 Sreaming SIMD Extensions, 它是一組CPU指令,用於像信號處理、科學計算或者3D圖形計算同樣的應用。測試

 

SIMD 也是幾個單詞的首寫字母組成的: Single Instruction, Multiple Data。 一個指令發出後,同一時刻被放到不一樣的數據上執行,優化

這個指令就是SIMD指令。spa

 

SSE在1999年首次出如今Pentium 3上。在過去的那段時光裏,一些更加精緻的功能被加入了這套指令集,.net

8個128-bit的寄存器被加入了CPU :xmm0到xmm7.翻譯

 

 

最初的時候,這些寄存器智能用來作單精度浮點數計算(float),指針

自從SSE2開始,這些寄存器能夠被用來計算任何基本數據類型的數據了。

 

給定一個標準的32位機器,咱們能夠並行的存儲和計算了:

-- 2 double

-- 2 long

-- 4 float 

-- 4 int

-- 8 short

-- 16 char

注意:整數類型能夠是有符號也能夠是無符號的,不過有時候你可能要用不一樣的指令來處理他們。

好比,你想計算兩個整數數組的和,你能夠一次計算四個加法。

 

 

簡單的例子

開始學習SSE並非很簡單的,幸虧MSDN的文檔寫的很好(原做的連接打不開了,新鏈接是我加上去的)!

若是你看一下那個算術操做的列表,一會注意到總有相應的彙編指令與其對應。

另外,一些操做是符合操做,例如那些set操做

在C++中用SSE真真是一個low-level的操做:咱們將直接經過類型

__m128(4個float)、__m128d(2個double)、__m128i(int、short、char)直接控制那些128-bit的寄存器。

 

不過,爲了使用SSE咱們沒必要去聲明__m128類型的數組:好比,你想計算一個浮點型數組中每一個元素的平方根,

有能夠直接將你的數組強制類型轉換成__m128*,而後使用SSE的命令操做這個數組。

 

無論怎樣,咱們仍是要多作一點事情,才能用SSE。大多數SSE操做須要咱們的數據是16-bytes對齊的,

這裏咱們將使用另外一個GCC的 Variable attributes。 咱們使用對齊屬性:

 

 

[plain]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. aligned (alignment)  
  2. This attribute specifies a minimum alignment for the variable or structure field, measured in bytes.  


下面是一個簡單的代碼,展現如何用SSE的_mm_sqrt_ps()函數一次性計算四個浮點數的平方根:

 

 

[plain]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. float a[] __attribute__ ((aligned (16))) = { 41982.,  81.5091, 3.14, 42.666 };  
  2. __m128* ptr = (__m128*)a;  
  3. __m128 t = _mm_sqrt_ps(*ptr);  



 

若是用GCC編譯器,在編譯選項中加入-S選項,產生的彙編代碼中相應的彙編語句是SQRTPS,

並且這個指令使用的寄存器就是SSE的寄存器:

 

[plain]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. sqrtps  %xmm0, %xmm0  


不要忘了加上那個頭文件:

 

 

[cpp]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. #include <emmintrin.h>  



 

第一個評測

在前面的代碼中,咱們同時計算了4個float的平方根,可是咱們沒有記錄結果。爲了記錄結果,咱們使用_mm_store_ps

在下面的代碼中,咱們計算一個很是大的float數組的平方根。(做者使用的是他以前寫的計時函數,這裏我直接貼出來了)

來對程序的標準版本和SSE版計時。

 

[cpp]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. class Timer  
  2. {  
  3. public:  
  4.   Timer(const std::string& name)  
  5.     : name_ (name),  
  6.       start_ (std::clock())  
  7.     {  
  8.     }  
  9.   ~Timer()  
  10.     {  
  11.       double elapsed = (double(std::clock() - start_) / double(CLOCKS_PER_SEC));  
  12.       std::cout << name_ << ": " << int(elapsed * 1000) << "ms" << std::endl;  
  13.     }  
  14. private:  
  15.   std::string name_;  
  16.   std::clock_t start_;  
  17. };  
  18. #define TIMER(name) Timer timer__(name);  
  19.   
  20. void normal(float* a, int N)  
  21. {  
  22.   for (int i = 0; i < N; ++i)a[i] = sqrt(a[i]);  
  23. }   
  24. void sse(float* a, int N)  
  25. {// We assume N % 4 == 0.  
  26.   int nb_iters = N / 4;  
  27.   __m128* ptr = (__m128*)a;  
  28.   for (int i = 0; i < nb_iters; ++i, ++ptr, a += 4)  
  29.     _mm_store_ps(a, _mm_sqrt_ps(*ptr));  
  30. }  
  31. int main(int argc, char** argv)  
  32. {  
  33.   if (argc != 2)  
  34.     return 1;  
  35.   int N = atoi(argv[1]);  
  36.   float* a;  
  37.   posix_memalign((void**)&a, 16,  N * sizeof(float));  
  38.   for (int i = 0; i < N; ++i)a[i] = 3141592.65358;  
  39.   {  
  40.     TIMER("normal");  
  41.     normal(a, N);  
  42.   }  
  43.   for (int i = 0; i < N; ++i)a[i] = 3141592.65358;  
  44.   {  
  45.     TIMER("SSE");  
  46.     sse(a, N);  
  47.   }  
  48. }  


在上面的SSE的函數代碼中,咱們用了兩個指針指向的是同一個地址,可是使用的類型不一樣,這固然不是必須的,只是用來避免強制類型轉換。

 

有趣的是,咱們必須對__m128每次遞增1(128bits),對應的,咱們也必須按四遞增float指針(就是至關於一次算四個float)。

另外一個有趣的函數式 posix_memalign,而不是用align attribute,這個函數是在堆上申請對齊內存,而gcc attribute是在棧上申請內存。

 

評測環境: llvm-g++ 4.2 (flags: -O3 -msse2)  在Intel Core2 Duo P7350(2GHz)上測試。

 

[plain]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. $ ./sqrt 64000000  
  2. normal: 392ms  
  3. SSE: 145ms  


真的至關快哈!

 

 

第二個評測

 

怎麼將兩個char數據加在一塊兒呢:

 

[cpp]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. void sse(char* a, const char* b, int N)                                                                                                                                                                            
  2. {                                                                                                                                                                                           
  3.   int nb_iters = N / 16;  
  4.   __m128i* l = (__m128i*)a;  
  5.   __m128i* r = (__m128i*)b;  
  6.    
  7.   for (int i = 0; i < nb_iters; ++i, ++l, ++r)  
  8.     _mm_store_si128(l, _mm_add_epi8(*l, *r));  
  9. }  


評測結果:

 

 

[plain]  view plain  copy
 
 在CODE上查看代碼片派生到個人代碼片
  1. $ ./add 64000000  
  2. normal: 98ms  
  3. SSE: 42ms  



 

性能分析

 

你可能會問,爲何咱們沒有獲得四倍的加速呢?咱們但是一次計算4個float數據啊,怎麼咱們只有2倍的加速呢??

 

答案是,你的編譯器很聰明,它已經作了不少優化了,特別是在加入O3選項後。

實際上,若是你看下normal產生的彙編代碼,裏面的sqrt和add函數都已經被你的編譯器給用SSE指令優化了。

編譯器檢測到循環模式適合SSE,就把這個代碼使用SSE指令實現了。

無論怎樣,直接使用SSE函數仍是能夠得到一些性能的。

 

取決於你的編譯器版本,對於這種簡單的循環,你發現執行時間上沒有差別也是可能的。

可是,這裏必需要再提一次的是,咱們是介紹怎麼用SSE,不是隻爲了性能~

相關文章
相關標籤/搜索