緩存算法之 LRU——最近最少使用

LRU

         LRU是Least Recently Used 的縮寫，翻譯過來就是「最近最少使用」，也就是說，LRU緩存把最近最少使用的數據移除，讓給最新讀取的數據。而每每最常讀取的，也是讀取次數最多的，因此，利用LRU緩存，咱們可以提升系統的performance.

   1. 新數據插入到鏈表頭部；

   2. 每當緩存命中(即緩存數據被訪問)，則將數據移到鏈表頭部；

   3. 當鏈表滿的時候，將鏈表尾部的數據丟棄。

LRU分析

   【命中率】

   當存在熱點數據時，LRU的效率很好，但偶發性的、週期性的批量操做會致使LRU命中率急劇降低，緩存污染狀況比較嚴重。

   【複雜度】

   實現簡單。

   【代價】

   命中時須要遍歷鏈表，找到命中的數據塊索引，而後須要將數據移到頭部。

LRU-K

   LRU-K中的K表明最近使用的次數，所以LRU能夠認爲是LRU-1。LRU-K的主要目的是爲了解決LRU算法「緩存污染」的問題，其核心思想是將「最近使用過1次」的判斷標準擴展爲「最近使用過K次」。

實現

   相比LRU，LRU-K須要多維護一個隊列，用於記錄全部緩存數據被訪問的歷史。只有當數據的訪問次數達到K次的時候，纔將數據放入緩存。當須要淘汰數據時，LRU-K會淘汰第K次訪問時間距當前時間最大的數據。詳細實現以下：

   1. 數據第一次被訪問，加入到訪問歷史列表；

   2. 若是數據在訪問歷史列表裏後沒有達到K次訪問，則按照必定規則(FIFO，LRU)淘汰；

   3. 當訪問歷史隊列中的數據訪問次數達到K次後，將數據索引從歷史隊列刪除，將數據移到緩存隊列中，並緩存此數據，緩存隊列從新按照時間排序；

   4. 緩存數據隊列中被再次訪問後，從新排序；

   5. 須要淘汰數據時，淘汰緩存隊列中排在末尾的數據，即：淘汰「倒數第K次訪問離如今最久」的數據。

   LRU-K具備LRU的優勢，同時可以避免LRU的缺點，實際應用中LRU-2是綜合各類因素後最優的選擇，LRU-3或者更大的K值命中率會高，但適應性差，須要大量的數據訪問才能將歷史訪問記錄清除掉。

分析

   【命中率】

   LRU-K下降了「緩存污染」帶來的問題，命中率比LRU要高。

   【複雜度】

   LRU-K隊列是一個優先級隊列，算法複雜度和代價比較高。

   【代價】

   因爲LRU-K還須要記錄那些被訪問過、但尚未放入緩存的對象，所以內存消耗會比LRU要多；當數據量很大的時候，內存消耗會比較可觀。

   LRU-K須要基於時間進行排序(能夠須要淘汰時再排序，也能夠即時排序)，CPU消耗比LRU要高。