Redis持久化相關介紹

1.持久化的意義

    大量的請求過來，緩存所有沒法命中，在redis里根本找不到數據，就會出現緩存雪崩問題，全部請求，沒有在redis命中，就會去mysql數據庫這種數據源頭中去找，一會兒mysql承接高併發，而後就掛了。redis的持久化作好，備份和恢復方案作到企業級的程度，那麼即便你的redis故障了，也能夠經過備份數據，快速恢復，一旦恢復當即對外提供服務。

    redis持久化技術有兩種：RDB，AOF。

2.RDB，AOF介紹

        RDB持久化機制，對redis中的數據執行週期性的持久化；AOF機制對每條寫入命令做爲日誌，以append-only的模式寫入一個日誌文件中，在redis重啓的時候，能夠經過回放AOF日誌中的寫入指令來從新構建整個數據集。若是咱們想要redis僅僅做爲純內存的緩存來用，那麼能夠禁止RDB和AOF全部的持久化機制，經過RDB或AOF，均可以將redis內存中的數據給持久化到磁盤上面來，而後能夠將這些數據備份到別的地方去，好比說阿里雲，雲服務。若是redis掛了，服務器上的內存和磁盤上的數據都丟了，能夠從雲服務上拷貝回來以前的數據，放到指定的目錄中，而後從新啓動redis，redis就會自動根據持久化數據文件中的數據，去恢復內存中的數據，繼續對外提供服務。若是同時使用RDB和AOF兩種持久化機制，那麼在redis重啓的時候，會使用AOF來從新構建數據，由於AOF中的數據更加完整。

2.1RDB持久化機制的優勢和缺點

    優勢：

    （1）RDB會生成多個數據文件，每一個數據文件都表明了某一個時刻中redis的數據，這種多個數據文件的方式，很是適合作冷備，能夠將這種完整的數據文件發送到一些遠程的安全存儲上去，好比說Amazon的S3雲服務上去，在國內能夠是阿里雲的ODPS分佈式存儲上，以預約好的備份策略來按期備份redis中的數據。

    （2）RDB對redis對外提供的讀寫服務，影響很是小，可讓redis保持高性能，由於redis主進程只須要fork一個子進程，讓子進程執行磁盤IO操做來進行RDB持久化便可。

    （3）相對於AOF持久化機制來講，直接基於RDB數據文件來重啓和恢復redis進程，更加快速。

    缺點：

    （1）若是想要在redis故障時，儘量少的丟失數據，那麼RDB沒有AOF好。通常來講，RDB數據快照文件，都是每隔5分鐘，或者更長時間生成一次，這個時候就得接受一旦redis進程宕機，那麼會丟失最近5分鐘的數據

    （2）RDB每次在fork子進程來執行RDB快照數據文件生成的時候，若是數據文件特別大，可能會致使對客戶端提供的服務暫停數毫秒，或者甚至數秒。

2.2 AOF持久化機制的優勢和缺點

    優勢：

    （1）AOF能夠更好的保護數據不丟失，通常AOF會每隔1秒，經過一個後臺線程執行一次fsync操做，最多丟失1秒鐘的數據。

    （2）AOF日誌文件以append-only模式寫入，因此沒有任何磁盤尋址的開銷，寫入性能很是高，並且文件不容易破損，即便文件尾部破損，也很容易修復。

    （3）AOF日誌文件即便過大的時候，出現後臺重寫操做，也不會影響客戶端的讀寫。由於在rewrite log的時候，會對其中的指導進行壓縮，建立出一份須要恢復數據的最小日誌出來。再建立新日誌文件的時候，老的日誌文件仍是照常寫入。當新的merge後的日誌文件ready的時候，再交換新老日誌文件便可。

    （4）AOF日誌文件的命令經過很是可讀的方式進行記錄，這個特性很是適合作災難性的誤刪除的緊急恢復。好比某人不當心用flushall命令清空了全部數據，只要這個時候後臺rewrite尚未發生，那麼就能夠當即拷貝AOF文件，將最後一條flushall命令給刪了，而後再將該AOF文件放回去，就能夠經過恢復機制，自動恢復全部數據。

    缺點：

    （1）對於同一份數據來講，AOF日誌文件一般比RDB數據快照文件更大。

    （2）AOF開啓後，支持的寫QPS會比RDB支持的寫QPS低，由於AOF通常會配置成每秒fsync一第二天志文件，固然，每秒一次fsync，性能也仍是很高的。

    （3）之前AOF發生過bug，就是經過AOF記錄的日誌，進行數據恢復的時候，沒有恢復如出一轍的數據出來。因此說，相似AOF這種較爲複雜的基於命令日誌/merge/回放的方式，比基於RDB每次持久化一份完整的數據快照文件的方式，更加脆弱一些，容易有bug。不過AOF就是爲了不rewrite過程致使的bug，所以每次rewrite並非基於舊的指令日誌進行merge的，而是基於當時內存中的數據進行指令的從新構建，這樣健壯性會好不少。

3.RDB和AOF到底該如何選擇

    （1）不要僅僅使用RDB，由於那樣會致使你丟失不少數據。

    （2）也不要僅僅使用AOF，由於那樣有兩個問題，第一，你經過AOF作冷備，沒有RDB作冷備，來的恢復速度更快; 第二，RDB每次簡單粗暴生成數據快照，更加健壯，能夠避免AOF這種複雜的備份和恢復機制的bug。

    （3）綜合使用AOF和RDB兩種持久化機制，用AOF來保證數據不丟失，做爲數據恢復的第一選擇; 用RDB來作不一樣程度的冷備，在AOF文件都丟失或損壞不可用的時候，還可使用RDB來進行快速的數據恢復。

4.如何配置RDB持久化機制

    redis.conf文件下面：

    save 60 1000

    每隔60s，若是有超過1000個key發生了變動，那麼就生成一個新的dump.rdb文件，就是當前redis內存中完整的數據快照，這個操做也被稱之爲snapshotting，快照。也能夠手動調用save或者bgsave命令，同步或異步執行rdb快照生成save能夠設置多個，就是多個snapshotting檢查點，每到一個檢查點，就會去check一下，是否有指定的key數量發生了變動，若是有，就生成一個新的dump.rdb文件。

    工做流出機制：

    （1）redis根據配置本身嘗試去生成rdb快照文件。
    （2）fork一個子進程出來。
    （3）子進程嘗試將數據dump到臨時的rdb快照文件中。
    （4）完成rdb快照文件的生成以後，就替換以前的舊的快照文件。

    dump.rdb，每次生成一個新的快照，都會覆蓋以前的老快照。文件的位置，在配置的時候已經配置了。/var/redis/6379/dump.rdb。

5.如何配置AOF持久化

    AOF持久化，默認是關閉的，默認是打開RDB持久化。appendonly.aof

    appendonly yes，

    能夠打開AOF持久化機制，在生產環境裏面，通常來講AOF都是要打開的，除非你說隨便丟個幾分鐘的數據也無所謂。打開AOF持久化機制以後，redis每次接收到一條寫命令，就會寫入日誌文件中，固然是先寫入os cache的，而後每隔必定時間再fsync一下。並且即便AOF和RDB都開啓了，redis重啓的時候，也是優先經過AOF進行數據恢復的，由於aof數據比較完整。

    能夠配置AOF的fsync策略，有三種策略能夠選擇，一種是每次寫入一條數據就執行一次fsync; 一種是每隔一秒執行一次fsync; 一種是不主動執行fsync。

    appendfsync everysec

always: 每次寫入一條數據，當即將這個數據對應的寫日誌fsync到磁盤上去，性能很是很是差，吞吐量很低; 確保說redis裏的數據一條都不丟，那就只能這樣了。

mysql -> 內存策略，大量磁盤，QPS到多少，一兩k。QPS，每秒鐘的請求數量
redis -> 內存，磁盤持久化，QPS到多少，單機，通常來講，上萬QPS沒問題

everysec: 每秒將os cache中的數據fsync到磁盤，這個最經常使用的，生產環境通常都這麼配置，性能很高，QPS仍是能夠上萬的。

no: 僅僅redis負責將數據寫入os cache就撒手無論了，而後後面os本身會時不時有本身的策略將數據刷入磁盤，不可控了。

6.AOF rewrite

redis中的數據其實有限的，不少數據可能會自動過時，可能會被用戶刪除，可能會被redis用緩存清除的算法清理掉。redis中的數據會不斷淘汰掉舊的，就一部分經常使用的數據會被自動保留在redis內存中。因此可能不少以前的已經被清理掉的數據，對應的寫日誌還停留在AOF中，AOF日誌文件就一個，會不斷的膨脹，到很大很大。因此AOF會自動在後臺每隔必定時間作rewrite操做，好比日誌裏已經存放了針對100w數據的寫日誌了; redis內存只剩下10萬; 基於內存中當前的10萬數據構建一套最新的日誌，到AOF中; 覆蓋以前的老日誌; 確保AOF日誌文件不會過大，保持跟redis內存數據量一致。redis 2.4以前，還須要手動，開發一些腳本，crontab，經過BGREWRITEAOF命令去執行AOF rewrite，可是redis 2.4以後，會自動進行rewrite操做。

在redis.conf中，能夠配置rewrite策略

auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb

好比說上一次AOF rewrite以後，是128mb

而後就會接着128mb繼續寫AOF的日誌，若是發現增加的比例，超過了以前的100%，256mb，就可能會去觸發一次rewrite。可是此時還要去跟min-size，64mb去比較，256mb > 64mb，纔會去觸發rewrite

（1）redis fork一個子進程。
（2）子進程基於當前內存中的數據，構建日誌，開始往一個新的臨時的AOF文件中寫入日誌。
（3）redis主進程，接收到client新的寫操做以後，在內存中寫入日誌，同時新的日誌也繼續寫入舊的AOF文件。
（4）子進程寫完新的日誌文件以後，redis主進程將內存中的新日誌再次追加到新的AOF文件中。
（5）用新的日誌文件替換掉舊的日誌文件。

7.AOF破損文件的修復

若是redis在append數據到AOF文件時，機器宕機了，可能會致使AOF文件破損

用redis-check-aof --fix命令來修復破損的AOF文件。

8.AOF和RDB同時工做

（1）若是RDB在執行snapshotting操做，那麼redis不會執行AOF rewrite; 若是redis再執行AOF rewrite，那麼就不會執行RDB snapshotting。 （2）若是RDB在執行snapshotting，此時用戶執行BGREWRITEAOF命令，那麼等RDB快照生成以後，纔會去執行AOF rewrite。 （3）同時有RDB snapshot文件和AOF日誌文件，那麼redis重啓的時候，會優先使用AOF進行數據恢復，由於其中的日誌更完整。