由二維數組遍歷引起的內存訪問空間局部性理解

1. CPU高速緩存：在計算機系統中，CPU高速緩存（英語：CPU Cache）是用於減小處理器訪問內存所需平均時間的部件。在金字塔式存儲體系中它位於自頂向下的第二層，僅次於CPU寄存器。其容量遠小於內存，但速度卻能夠接近處理器的頻率。當處理器發出內存訪問請求時，會先查看緩存內是否有請求數據。若是存在（命中），則不經訪問內存直接返回該數據；若是不存在（失效），則要先把內存中的相應數據載入緩存，再將其返回處理器。緩存之因此有效，主要是由於程序運行時對內存的訪問呈現局部性（Locality）特徵。這種局部性既包括空間局部性（Spatial Locality），也包括時間局部性（Temporal Locality）。有效利用這種局部性，緩存能夠達到極高的命中率。（百度百科解釋）。

2.二維數組有兩種遍歷方式，一種是先行後列，一種是先列後行，代碼實現也很簡單，用兩個for循環嵌套便可，表面上看來，兩者時間複雜度都是O(mn),但實際上，效率的是經過內存頁面交換次數和Cache命中率的高低來判斷的。

 

3.先行後列的效率要高的多，這個與二維數組的存儲方式有關(內存中，上一行的尾部地址和下一行的頭部地址連續)。

狀況一：若是申請的空間在內存之中，也就是說讀取只須要看cache是否命中，未命中再到內存中讀取。而cache從內存中抓取通常都是整個數據塊，因此它的物理內存是連續的，對於較大的數組而言，幾乎讀取的數據都是同行不一樣列的（由於cache很小，因此對於較大的數組通常只會拿一行內的數據），而若是內循環以列的方式進行遍歷的話，將會使整個緩存塊沒法被利用，而不得不從內存中讀取數據，而從內存讀取速度是遠遠小於從緩存中讀取數據的。隨着數組元素愈來愈多，按列讀取速度也會愈來愈慢。

狀況二：申請的爲虛擬內存（固然程序認爲仍是連續的物理內存，是操做系統在磁盤另開闢的空間），虛擬內存到物理內存須要通過地址映射，若是虛擬內存採用頁式地址映射（不討論快表技術，僅分析頁表在內存中），最好的狀況是每次映射的頁內數據均可以被使用，這樣能夠減小頁面調度的次數,從而提高效率。

例如：對於int a[128][1024];假設內存頁大小爲4096字節(一個int 佔4個字節)，該數組每行正好佔據一個內存頁的空間，若按先行後列遍歷，外層循環每走一行，內層走過1024個元素正好一頁，沒發生頁面調度，遍歷完整個數組頁面調度次數最多爲128次；若按先列後行，則每遍歷一個元素，都發生一次頁面調度，由於列上每一個元素位於同行內（不一樣頁），遍歷整個數組頁面調度次數可能達到1024*128次；實際中因爲物理內存足夠（內存頁較大，分配給進程的頁框數多等因素），調度次數會減小不少。

 

 4.總結：對於二維數組的遍歷效率優化，其實就是更好的利用程序申請內存而產生的空間局部性，這種局部性在不少地方都有體現，二維數組只是簡單的一個例子，一個好的程序能夠合理減小缺頁發生的次數，提升程序的空間局部性，從而提升運行效率。

 

 簡易代碼（實際結果極可能由於申請內存位置不一樣或內存大小而產生誤差）：

#include <stdio.h> #include <stdlib.h>
#define M 10000
#define N 20000
int main(){     int MyArray[M][N];     int i,j;
//先行後列方式遍歷     for( i = 0;i < M;i++){         for(j = 0;j < N;j++){             MyArray[i][j] = 0;         }     } }

#include <stdio.h> #include <stdlib.h>
#define M 10000
#define N 20000
int main(){     int MyArray[M][N];     int i,j;
//先列後行方式遍歷     for( i = 0;i < N;i++){         for(j = 0;j < M;j++){             MyArray[j][i] = 0;         }     } }

 

參考文章

[1]  小白xiaoxiao.二維數組兩種遍歷的比較

http://blog.sina.com.cn/s/blog_707d31f50101j2e7.html
[2]  哆啦A熊.二維數組按行和按列遍歷的效率

https://blog.csdn.net/shuffle_ts/article/details/89420651