Redis緩存篇（二）淘汰機制：緩存滿了怎麼辦？

上一講提到，緩存的容量老是小於後端數據庫的。隨着業務系統的使用，緩存數據會撐滿內存空間，該怎麼處理呢？

本節咱們來學習內存淘汰機制。在Redis 4.0以前有6種內存淘汰策略，以後又增長2種，一共8種，以下圖所示：

• noeviction策略：內存空間達到maxmemory時，不會淘汰數據，有新寫入時會返回錯誤。
• volatile-ttl策略：針對設置了過時時間的鍵值對，根據過時時間的前後進行修改，越早過時的越先被刪除。
• volatile-random策略：在設置了過時時間的鍵值對中，進行隨機刪除。
• volatile-lru策略：使用LRU算法篩選設置了過時時間的鍵值對，進行刪除。
• volatile-lfu策略：使用LFU算法篩選設置了過時時間的鍵值對，進行刪除。
• allkeys-random策略：在全部鍵值對中隨機選擇並刪除數據。
• allkeys-lru策略：使用LRU算法在全部數據中進行篩選並刪除數據。
• allkeys-lfu策略：使用LFU算法在全部數據中進行篩選並刪除數據。

對於TTL、Random比較好理解，下面學習一下LRU和LFU算法。

LRU算法

LRU算法，全稱Least Recently Used。

其中MRU端指最近訪問的數據；LRU端指最先訪問的數據。

被訪問的數據和新插入的數據會移到MRU端，空間滿了後從LRU端刪除。這樣一來，最先訪問的數據會逐漸被淘汰。

但LRU算法也有其缺點：

• 須要用鏈表管理全部緩存數據，帶來額外的空間開銷
• 大量數據被訪問，就會帶來不少鏈表移動操做，下降Redis性能

而Redis對其進行簡化：

• Redis會記錄每一個數據的最近一次訪問的時間戳（RedisObject中的lru字段）
• Redis第一次淘汰數據時，會隨機選出N個數據，做爲一個候選集合。
• 而後比較這N個數據的lru，把lru最小的從緩存中淘汰。

當再次淘汰數據時，會挑選數據放到第一次淘汰時的候選集合，要求小於候選集合中最小的lru值才能加入。

其中maxmemory-samples配置項：表示選出的個數N。能夠經過如下命令進行設置：

CONFIG SET maxmemory-samples 100

 

LFU算法

LFU算法是在LRU策略基礎上，爲每一個數據增長一個計數器，來統計這個數據的訪問次數。

使用LFU策略篩選淘汰數據時，根據數據的訪問次數進行篩選，把訪問次數最低的數據淘汰。若是兩個數據訪問次數相同，再比較兩個數據的訪問時效性，把更久的數據淘汰。

如何實現

LFU也是使用RedisObject的lru字段來實現。

把24bit的lru字段拆分紅兩部分：

• ldt值：lru字段的前16bit，表示數據的訪問時間戳；
• counter值：lru字段的後8bit，表示數據的訪問次數；

當LFU策略淘汰數據時，Redis在候選集合中，根據lru字段的後8bit選擇訪問次數最小的數據進行淘汰。若是訪問次數相同，再根據lru字段的前16bit值大小，選擇更久的數據進行淘汰。

關於counter只有8bit（255）的問題

Redis並無採用數據每被訪問一次，就+1的規則，而是採用一個相似於隨機+1的規則：

double r = (double)rand()/RAND_MAX;
...
double p = 1.0/(baseval*server.lfu_log_factor+1);
if (r < p) counter++;   

 

經過設置 lfu_log_factor 配置項來控制計數器值增長的速度，避免counter很快到255。下圖是 lfu_log_factor 設置不一樣值時，counter的增加狀況：

總結

• 如何設置緩存空間大小：設置爲總數據量的15%到30%，兼顧訪問性能和內存空間開銷。
• 優先使用allkeys-lru策略。若是業務數據中有明顯的冷熱數據區分，建議使用allkeys-lru策略。
• 若是業務數據訪問頻繁相關不大，沒有明顯的冷熱數據區分，建議使用allkeys-random策略。
• 若是業務中有置頂的須要，可使用volatile-lru策略，同時不給這些置頂數據設置過時時間。

參考資料

• 24 | 替換策略：緩存滿了怎麼辦？