高速輸出-咱們戲說緩存

前言

緩存要解決的問題是速度的問題，使用緩存的目的是爲了減小對物理資源的訪問，緩存大量的應用在軟硬件的方方面面，從 CPU 到硬盤，就應用了 一級緩存、二級緩存，少部分高速緩存和大量低速緩存相結合，以提升 CPU 的計算能力，本文講的主要是系統集成項目中的軟件級別的緩存。

緩存因果圖

緩存在現代系統中的位置能夠說是舉足輕重，不是無關緊要的問題了，而是怎麼樣用好的問題。怎麼樣講好緩存這個話題，我思考了好久；若是是生搬硬套，我估計我確定是涼涼，但要是上來就一頓代碼操做，顯得字太多，各位看官老爺也是要噴死個人（大家噴我算我贏）。各位看官就當故事隨便看看就行了。

客戶端緩存

小明同窗是一個大學生，每月都會從爸爸那裏領取生活費，因爲爸爸給的生活費比較充裕，他就將一部分存了起來，周而復始，固定頻率，這就是瀏覽器網頁緩存；有一天，他接到爸爸的一個電話，說每月給現金，我老是從銀行拿也不方便，這樣，咱給存銀行卡里頭，可是說好了，每月1號的時候轉1000塊進去，3號以前能夠領取，過期不侯。這就是 Cookie！小明說爸，這時間太緊迫了，我萬一太過於專心學習忘記取錢那你兒子但是要餓死的吖，到時候沒人給你養老送終事兒就大了。他爸爸通過深思熟慮後，決定放開取現時間的限制：行，你想何時取都成，就是別把卡給弄掉了就行。這就是LocalStorage/IndexDB，瀏覽器本地存儲。若是銀行卡掉了（瀏覽器重裝，刪庫跑路），那還得找爸爸。

服務器緩存

咱們本次討論的重點就是服務器緩存，對於小明的爸爸來講，每次給小明生活費以前都要到銀行（數據庫）去取錢出來，實在是太麻煩，不如提早把錢取出來準備好，每次取半年的錢出來放家裏保險箱裏（緩存），小明申請生活費的時候，直接給他就行了，節約時間效率又高，惟一的問題就是可能沒那麼安全，有可能被小偷把錢給偷了（緩存更新），而後就是半年時間事後再從新取一筆出來（緩存過時策略）。

靜態對象緩存

靜態對象也是一種特殊的緩存，靜態對象做用於程序的整個生命週期中。須要注意的是，靜態對象不會被 GC 回收 ，可是，若是靜態對象被屢次引用覆蓋，那麼以前的引用就有可能被 GC 回收。這就好像，小明在向爸爸領取生活費的時候，發現此次領到手的錢實在是太破舊了，都很差意思花出去，爸爸只好從新給了另外一份。

會話級緩存

在 Web 站點中，Session 是私有制的，各個 Session 之間是不會共享內存對象的，咱們能夠利用這個特性（在Asp.NET 時代經常使用）來暫時保存一些數據，例如用戶購物車。仍是以小明的需求爲例子，小明下面還有一個妹妹，妹妹每月均可以從爸爸那裏多領取200元生活費，看到妹妹的資源這麼好，小明憤憤不平，就像妹妹提議共享生活費，一家人一塊兒用，多好吖！結果小明被爸爸揍了一頓，還收回了部分生活費。

進程級別緩存

基本上每一個應用程序都具備本地緩存的能力，在 Asp.NET 中就有 MemoryCache ，也叫作進程級緩存（本地緩存），MemoryCache 和 分佈式緩存的做用基本一致，所不一樣的是，本地緩存在應用程序中止後就會被釋放掉，沒法進行持久存儲。就好像，小明在上大學期間，每月都是生活費的，可是到暑假的時候就沒有了（只能靠苦逼的暑期工掙點生活費啊）。

分佈式緩存

分佈式緩存是個好東西，目前市場上出現了很是多的 nosql 數據庫，均可用做緩存數據庫，有時候，這些緩存數據庫也提供持久化的能力。

小明家的生活條件，在通過爸爸的不懈努力以後，生活水平漸漸提升了；有一天，爸爸對小明說：明仔吖，我們家如今生活水平提升了，可是爸爸也愈來愈忙了，這樣，若是我忙的時候，你問媽媽或者爺爺奶奶，也是能夠拿到生活費的，我們家這幾位長輩手裏都有錢了，這就是分佈式緩存。

可是分佈式緩存又分爲主從模式和集羣模式，上面說的是集羣模式，爸爸媽媽爺爺奶奶均可以拿錢，可是主從模式就不一樣了，主從模式就是錢都在爸爸手裏，爸爸會把錢分給每一個長輩一份，若是當時正好爸爸太忙了，沒來得及分給媽媽，而小明又剛好問媽媽要生活費的話；媽媽只能對他說：小命呀，很差意思，媽媽這裏也沒有，你看看再問問其它人（客戶端本身輪詢），在問了媽媽、爺爺後（引用指向），終於知道，錢在爸爸那裏，還得問爸爸要生活費。並且爸爸給其它人分錢的時候，還要佔用他工做的時間。

緩存雪崩

緩存雪崩就是在某一個時刻，大量的緩存同時失效，形成數據庫訪問壓力倍增。小明的爸爸最近壓力比較大，由於收入減小了，他爸爸作的一個工程由於種種緣由，貨款只能分期付清，爲了防止小明和妹妹同時申請生活費，形成資金週轉困難；爸爸規定妹妹 1 號領取生活費，而小明在 5 號才能領取，小明內心的苦啊！

緩存穿透

緩存穿透就是客戶端老是嘗試訪問某個不存在的緩存，形成了每次都要取請求數據庫讀取數據。就好像小明吧，原本生活挺平靜的，這剛上大二，就交了個女友，每月的 1000 元生活費有點捉襟見肘，而後他又不能讓爸爸知道，就在申請生活費的時候，每次都多要一點；這樣就搞得爸爸很被動，原本計劃得好好的，每月都是 1000 塊，這沒次都不夠，總是要跑銀行取現金，終於在3個月後，爸爸發現了這個問題，想着兒子也大了，爲了早日抱上孫子，就提升了小明的生活費，解決了每次都要跑銀行的問題。

緩存擊穿

緩存擊穿和緩存雪崩有點相似，其中不一樣的是；緩存雪崩是大量緩存 key 同時過時，而緩存擊穿是大量的請求指向同一個緩存key，在這個 key 過時的時候，大量的請求涌入數據庫中，形成了瞬間巨大的壓力。舉個栗子，由於小明交了女友的緣由，他的生活費老是很快用完了；這種狀況下，他也必須在 1 號的時候拿到生活費，否則就要吃土了，可是媽媽不容許他們一塊兒取打擾爸爸，媽媽就指定了妹妹去問，在妹妹沒有回來以前，小明只能等着，這就是爲了解決緩存擊穿而採用的策略：互斥鎖(mutex key)

運維級別緩存

除了在應用程序中能夠接入緩存之外，部分運維工具也集成了緩存服務，好比 Nginx、IIS。

代理緩存

Nginx 就是反向代理緩存，經過配置 Nginx 的緩存功能，在客戶端請求到來到時候去加載緩存內容，用以提升響應能力，IIS 緩存又分爲用戶緩存和內核緩存。IIS 的輸出緩存設置中，內核模式緩存不會對驗證等用戶信息進行檢查，就好像小明等爸爸由於太趕時間，把錢放門衛大媽那裏了，結果隨便來了個學生就把小明等生活費給領走了，可是加上用戶模式緩存後，就能夠添加對身份的檢查（請求標頭），這樣大媽就會知道誰是小明而不會隨便把生活費交給別人了。

網頁靜態化

這種技術，在 Web1.0 時代很是的流行，我還記得那些個年頭的網站開發項目中的要求，大部分項目的需求分析文檔裏面就明晃晃的寫着：網頁靜態化！，而靜態化常見於各類企業型、論壇帖子，在發表這些信息後就將其生成靜態網頁，客戶端訪問的時候，直接重定向到該靜態網頁，基本無需訪問數據庫。

CDN 緩存

CDN 緩存相似於上面提到的分佈式緩存，可是實際上 CDN 緩存服務目前來講，主要說針對靜態資源的，好比圖片、視頻、文件等等；你們常常能夠看到，不少站點都號稱提供了 CDN 加速服務，這些站點就像一個個代辦信用卡的銷售中介，實際上拿的都是銀行的資源。

更形象一些的說法，就是你們的錢都是中國人民銀行發行的，咱們能夠經過各個不一樣的銀行（CDN節點）查詢咱們的銀行卡餘額（我怎麼可能有餘額），在之前沒有手機銀行的時候，你們就能夠到附近的銀行去查詢，而後取款（CDN緩存），若是附近的銀行的櫃員機沒有現金，那麼可能就須要到總行去取了（回源），若是發生了太多回源的事件，就會形成 CDN 的擁堵，因此 CDN 服務商也不敢打包票本身的基礎服務沒有問題，反正我是沒見到哪家 CDN 服務商敢註明服務穩定性 100%，基本上都是 99.99%

結束語

緩存的理論知識，實際上是很是宏大的，我這裏只是拋磚引玉，但願能給入門的朋友帶來一點幫助，若是你喜歡這篇文章，請給我點贊，讓更多同窗能夠看到。