常見緩存算法和LRU的c++實現

對於web開發而言，緩存必不可少，也是提升性能最經常使用的方式。不管是瀏覽器緩存(若是是chrome瀏覽器，能夠經過chrome:://cache查看)，仍是服務端的緩存(經過memcached或者redis等內存數據庫)。緩存不只能夠加速用戶的訪問，同時也能夠下降服務器的負載和壓力。那麼，瞭解常見的緩存淘汰算法的策略和原理就顯得特別重要。

常見的緩存算法

• LRU (Least recently used) 最近最少使用，若是數據最近被訪問過，那麼未來被訪問的概率也更高。
• LFU (Least frequently used) 最不常常使用，若是一個數據在最近一段時間內使用次數不多，那麼在未來一段時間內被使用的可能性也很小。
• FIFO (Fist in first out) 先進先出， 若是一個數據最早進入緩存中，則應該最先淘汰掉。

LRU緩存

像瀏覽器的緩存策略、memcached的緩存策略都是使用LRU這個算法，LRU算法會將近期最不會訪問的數據淘汰掉。LRU如此流行的緣由是實現比較簡單，並且對於實際問題也很實用，良好的運行時性能，命中率較高。下面談談如何實現LRU緩存：

• 新數據插入到鏈表頭部
• 每當緩存命中（即緩存數據被訪問），則將數據移到鏈表頭部
• 當鏈表滿的時候，將鏈表尾部的數據丟棄

LRU Cache具有的操做：

• set(key,value)：若是key在hashmap中存在，則先重置對應的value值，而後獲取對應的節點cur，將cur節點從鏈表刪除，並移動到鏈表的頭部；若果key在hashmap不存在，則新建一個節點，並將節點放到鏈表的頭部。當Cache存滿的時候，將鏈表最後一個節點刪除便可。
• get(key)：若是key在hashmap中存在，則把對應的節點放到鏈表頭部，並返回對應的value值；若是不存在，則返回-1。

LRU的c++實現

LRU實現採用雙向鏈表 + Map 來進行實現。這裏採用雙向鏈表的緣由是：若是採用普通的單鏈表，則刪除節點的時候須要從表頭開始遍歷查找，效率爲O(n)，採用雙向鏈表能夠直接改變節點的前驅的指針指向進行刪除達到O(1)的效率。使用Map來保存節點的key、value值便於能在O(logN)的時間查找元素,對應get操做。

雙鏈表節點的定義：

struct CacheNode {
  int key;      // 鍵
  int value;    // 值
  CacheNode *pre, *next;  // 節點的前驅、後繼指針
  CacheNode(int k, int v) : key(k), value(v), pre(NULL), next(NULL) {}
};

對於LRUCache這個類而言，構造函數須要指定容量大小

LRUCache(int capacity)
{
  size = capacity;      // 容量
  head = NULL;          // 鏈表頭指針
  tail = NULL;          // 鏈表尾指針
}

雙鏈表的節點刪除操做：

void remove(CacheNode *node)
{
  if (node -> pre != NULL)
  {
    node -> pre -> next = node -> next;
  }
  else
  {
    head = node -> next;
  }
  if (node -> next != NULL)
  {
    node -> next -> pre = node -> pre;
  }
  else
  {
    tail = node -> pre;
  }
}

將節點插入到頭部的操做：

void setHead(CacheNode *node)
{
  node -> next = head;
  node -> pre = NULL;

  if (head != NULL)
  {
    head -> pre = node;
  }
  head = node;
  if (tail == NULL)
  {
    tail = head;
  }
}

get(key)操做的實現比較簡單，直接經過判斷Map是否含有key值便可，若是查找到key，則返回對應的value，不然返回-1;

int get(int key)
{
  map<int, CacheNode *>::iterator it = mp.find(key);
  if (it != mp.end())
  {
    CacheNode *node = it -> second;
    remove(node);
    setHead(node);
    return node -> value;
  }
  else
  {
    return -1;
  }
}

set(key, value)操做須要分狀況判斷。若是當前的key值對應的節點已經存在，則將這個節點取出來，而且刪除節點所處的原有的位置，並在頭部插入該節點；若是節點不存在節點中，這個時候須要在鏈表的頭部插入新節點，插入新節點可能致使容量溢出，若是出現溢出的狀況，則須要刪除鏈表尾部的節點。

void set(int key, int value)
{
  map<int, CacheNode *>::iterator it = mp.find(key);
  if (it != mp.end())
  {
    CacheNode *node = it -> second;
    node -> value = value;
    remove(node);
    setHead(node);
  }
  else
  {
    CacheNode *newNode = new CacheNode(key, value);
    if (mp.size() >= size)
    {
      map<int, CacheNode *>::iterator iter = mp.find(tail -> key);
      remove(tail);
      mp.erase(iter);
    }
    setHead(newNode);
    mp[key] = newNode;
  }
}

至此，LRU算法的實現操做就完成了，完整的源碼參考：https://github.com/cpselvis/leetcode/blob/master/solution146.cpp