緩存穿透,緩存擊穿,緩存雪崩解決方案分析

前言

設計一個緩存系統,不得不要考慮的問題就是:緩存穿透、緩存擊穿與失效時的雪崩效應。redis

緩存穿透

緩存穿透是指查詢一個必定不存在的數據,因爲緩存是不命中時被動寫的,而且出於容錯考慮,若是從存儲層查不到數據則不寫入緩存,這將致使這個不存在的數據每次請求都要到存儲層去查詢,失去了緩存的意義。在流量大時,可能DB就掛掉了,要是有人利用不存在的key頻繁攻擊咱們的應用,這就是漏洞。數據庫

解決方案

有不少種方法能夠有效地解決緩存穿透問題,最多見的則是採用布隆過濾器,將全部可能存在的數據哈希到一個足夠大的bitmap中,一個必定不存在的數據會被 這個bitmap攔截掉,從而避免了對底層存儲系統的查詢壓力。另外也有一個更爲簡單粗暴的方法(咱們採用的就是這種),若是一個查詢返回的數據爲空(無論是數 據不存在,仍是系統故障),咱們仍然把這個空結果進行緩存,但它的過時時間會很短,最長不超過五分鐘。後端

緩存雪崩

緩存雪崩是指在咱們設置緩存時採用了相同的過時時間,致使緩存在某一時刻同時失效,請求所有轉發到DB,DB瞬時壓力太重雪崩。緩存

解決方案

緩存失效時的雪崩效應對底層系統的衝擊很是可怕。大多數系統設計者考慮用加鎖或者隊列的方式保證緩存的單線 程(進程)寫,從而避免失效時大量的併發請求落到底層存儲系統上。這裏分享一個簡單方案就時講緩存失效時間分散開,好比咱們能夠在原有的失效時間基礎上增長一個隨機值,好比1-5分鐘隨機,這樣每個緩存的過時時間的重複率就會下降,就很難引起集體失效的事件。併發

緩存擊穿

對於一些設置了過時時間的key,若是這些key可能會在某些時間點被超高併發地訪問,是一種很是「熱點」的數據。這個時候,須要考慮一個問題:緩存被「擊穿」的問題,這個和緩存雪崩的區別在於這裏針對某一key緩存,前者則是不少key。高併發

緩存在某個時間點過時的時候,剛好在這個時間點對這個Key有大量的併發請求過來,這些請求發現緩存過時通常都會從後端DB加載數據並回設到緩存,這個時候大併發的請求可能會瞬間把後端DB壓垮。工具

解決方案

使用互斥鎖(mutex key)

業界比較經常使用的作法,是使用mutex。簡單地來講,就是在緩存失效的時候(判斷拿出來的值爲空),不是當即去load db,而是先使用緩存工具的某些帶成功操做返回值的操做(好比Redis的SETNX或者Memcache的ADD)去set一個mutex key,當操做返回成功時,再進行load db的操做並回設緩存;不然,就重試整個get緩存的方法。spa

SETNX,是「SET if Not eXists」的縮寫,也就是隻有不存在的時候才設置,能夠利用它來實現鎖的效果。在redis2.6.1以前版本未實現setnx的過時時間,因此這裏給出兩種版本代碼參考:線程

public String get(String key){
  //先從緩存中取值
    String value = redis.get(key);
    if(null == value){   //緩存失效
       if(redis.setnx(key_mutex,"1")){
          //設置3秒過時時間
           redis.expire(key_mutex,3*60);
           //從數據庫中取值
           value = db.get(key);
           //設置到緩存中
           redis.set(key,value);
           //清除
           redis.delete(key_mutex);
       } else{
           //其餘線程休眠50秒後重試
           Thread.sleep(50);
           get(key);
       }
    }
}


public String get(key){
   String value = redis.get(key);
   if(null == value){   //緩存失效(過時)
     if(redis.setnx(key_mutex,1,3*60) == 1){ //表示設置成功
         //從數據庫中取值
        value = db.get(key);
        //設置緩存過時時間
        redis.set(key,value,expire_secs);
        redis.del(key_mutex);
     }else{
         Thread.sleep(50);
         get(key);
     }
   }else{
       return value;
   }
}
相關文章
相關標籤/搜索