緩存穿透與緩存雪崩

緩存穿透

什麼是緩存穿透？

通常的緩存系統，都是按照key去緩存查詢，若是不存在對應的value，就應該去後端系統查找（好比DB）。若是key對應的value是必定不存在的，而且對該key併發請求量很大，就會對後端系統形成很大的壓力。這就叫作緩存穿透。

 

如何避免？

1：對查詢結果爲空的狀況也進行緩存，緩存時間設置短一點，或者該key對應的數據insert了以後清理緩存。

2：對必定不存在的key進行過濾。能夠把全部的可能存在的key放到一個大的Bitmap中，查詢時經過該bitmap過濾。【感受應該用的很少吧】

緩存雪崩

什麼是緩存雪崩？

當緩存服務器重啓或者大量緩存集中在某一個時間段失效，這樣在失效的時候，也會給後端系統(好比DB)帶來很大壓力。

如何避免？

1：在緩存失效後，經過加鎖或者隊列來控制讀數據庫寫緩存的線程數量。好比對某個key只容許一個線程查詢數據和寫緩存，其餘線程等待。

2：不一樣的key，設置不一樣的過時時間，讓緩存失效的時間點儘可能均勻。

3：作二級緩存，A1爲原始緩存，A2爲拷貝緩存，A1失效時，能夠訪問A2，A1緩存失效時間設置爲短時間，A2設置爲長期（此點爲補充）

 

分佈式緩存系統

分佈式緩存系統面臨的問題

緩存一致性問題

1：緩存系統與底層數據的一致性。這點在底層系統是「可讀可寫」時，寫得尤其重要 

2：有繼承關係的緩存之間的一致性。爲了儘可能提升緩存命中率，緩存也是分層：全局緩存，二級緩存。他們是存在繼承關係的。全局緩存能夠有二級緩存來組成。 

3：多個緩存副本之間的一致性。爲了保證系統的高可用性，緩存系統背後每每會接兩套存儲系統（如memcache，redis等）

緩存穿透和緩存雪崩

上面有講述。

 

緩存數據的淘汰

緩存淘汰的策略有兩種： (1) 定時去清理過時的緩存。 （2）當有用戶請求過來時，再判斷這個請求所用到的緩存是否過時，過時的話就去底層系統獲得新數據並更新緩存。 

二者各有優劣，第一種的缺點是維護大量緩存的key是比較麻煩的，第二種的缺點就是每次用戶請求過來都要判斷緩存失效，邏輯相對比較複雜，具體用哪一種方案，你們能夠根據本身的應用場景來權衡。

 

1. 預估失效時間 2. 版本號（必須單調遞增，時間戳是最好的選擇）3. 提供手動清理緩存的接口。