分佈式緩存Memcache與Redis

1、Memcache
Memcache是一個高性能,分佈式內存對象緩存系統,經過在內存裏維護一個統一的巨大的hash表,它可以用來存儲各類格式的數據,包括圖像、視頻、文件以及數據庫檢索的結果等。簡單的說就是將數據調用到內存中,而後從內存中讀取,從而大大提升讀取速度。
Memcache特性:
(1)使用物理內存做爲緩存區,可獨立運行在服務器上。每一個進程最大2G,若是想緩存更多的數據,能夠開闢更多的Memcache進程(不一樣端口)或者使用分佈式Memcache進行緩存,將數據緩存到不一樣的物理機或者虛擬機上。
(2)使用key-value的方式來存儲數據,這是一種單索引的結構化數據組織形式,可以使數據項查詢時間複雜度爲O(1)。
(3)協議簡單:基於文本行的協議,直接經過telnet在memcached服務器上可進行存取數據操做,簡單,方便多種緩存參考此協議。
(4)基於Libevent高性能通訊:Libevent是一套利用C開發的程序庫,它將BSD系統的kqueue,Linux系統的epoll等事件處理功能封裝成一個接口,與傳統的select相比,提升了性能。
(5)內置的內存管理方式:全部數據都保存在內存中,存取數據比硬盤快,當內存滿後,經過LRU算法自動刪除不使用的緩存,但沒有考慮數據的容災問題,重啓服務,全部數據會丟失。
(6)分佈式:各個memcached服務器之間互不通訊,各自獨立存取數據,不共享任何信息。服務器並不具備分佈式功能,分佈式部署取決於Memcache客戶端。
(7)緩存策略:memcached的緩存策略是LRU(最近最少使用)到期失效策略。在memcached內存儲數據項時,能夠指定它在緩存的失效時間,默認爲永久。當memcached服務器用完分配的內時,失效的數據被首先替換,而後也是最近未使用的數據。在LRU中,memcached使用的是一種Lazy Expiration策略,本身不會監控存入的key/vlue對是否過時,而是在獲取key值時查看記錄的時間戳,檢查key/value對空間是否過時,這樣可減輕服務器的負載。
Memcache的工做流程以下:
(1)先檢查客戶端的請求數據是否在memcached中,若有,直接把請求數據返回,再也不對數據庫進行任何操做。
(2) 若是請求的數據不在memcached中,就去查數據庫,把從數據庫中獲取的數據返回給客戶端,同時把數據緩存一份到memcached中(memcached客戶端不負責,須要程序實現)。
(3) 每次更新數據庫的同時更新memcached中的數據,保證一致性。
(4) 當分配給memcached內存空間用完以後,會使用LRU(Least Recently Used,最近最少使用)策略加上到期失效策略,失效數據首先被替換,而後再替換掉最近未使用的數據。
2、redis
Redis經常使用數據類型
• String
1.經常使用命令:set,get,decr,incr,mget。
2.應用場景:String是最經常使用的一種數據類型,與Memcache的key value存儲方式相似。
3.實現方式:String在Redis內部存儲默認就是一個字符串,被redisObject所引用,當遇到incr,decr等操做時會轉成數值型進行計算,此時redisObject的encoding字段爲int。
• Hash
1.經常使用命令:hget,hset,hgetall 。
2.應用場景:以存儲一個用戶信息對象數據
3.實現方式:Redis Hash對應的Value,內部實際就是一個HashMap,實際這裏會有2種不一樣實現。
(1)Hash的成員比較少時Redis爲了節省內存會採用相似一維數 組的方式來緊湊存儲,而不會採用真正的HashMap結構,對應的value redisObject的encoding爲zipmap。
(2)當成員數量增大時會自動轉成真正的HashMap,此時encoding爲ht。
List
1.經常使用命令:lpush,rpush,lpop,rpop,lrange。
2.應用場景:Redis list的應用場景很是多,也是Redis最重要的數據結構之一,好比twitter的關注列表,粉絲列表等均可以用Redis的list結構來實現。
3.實現方式:Redis list的實現爲一個雙向鏈表,能夠支持反向查找和遍歷,方便操做。不過帶來了部分額外的內存開銷,Redis內部的不少實現,包括髮送緩衝隊列等也都是用的這個數據結構。
Set
1.經常使用命令:sadd,spop,smembers,sunion。
2.應用場景:Redis set對外提供的功能與list相似是一個列表的功能,特殊之處在於set是能夠自動排重的,當你須要存儲一個列表數據,又不但願出現重複數據時,set 是一個很好的選擇,而且set提供了判斷某個成員是否在一個set集合內的重要接口,這個也是list所不能提供的。
3.實現方式:set的內部實現是一個value永遠爲null的HashMap,實際就是經過計算hash的方式來快速排重的,這也是set能提供判斷一個成員是否在集合內的緣由。
Sorted set
1.經常使用命令:zadd、zrange、zrem、zcard。
2.使用場景:Redis sorted set的使用場景與set相似,區別是set不是自動有序的,而sorted set能夠經過用戶額外提供一個優先級(score)的參數來爲成員排序,而且是插入有序的,即自動排序。當你須要一個有序的而且不重複的集合列表,能夠選擇sorted set數據結構,好比twitter 的public timeline能夠以發表時間做爲score來存儲,這樣獲取時就是自動按時間排好序的。
3.實現方式:Redis sorted set的內部使用HashMap和跳躍表(SkipList)來保證數據的存儲和有序,HashMap裏放的是成員到score的映射,而跳躍表裏存放的 是全部的成員,排序依據是HashMap裏存的score,使用跳躍表的結構能夠得到比較高的查找效率,而且在實現上比較簡單。
Redis集羣
(1)經過keepalived實現的高可用方案redis

clipboard.png

切換流程:算法

  1. 當Master掛了後,VIP漂移到Slave;Slave 上keepalived 通知redis 執行:slaveof no one ,開始提供業務;
  2. 當Master起來後,VIP 地址不變,Master的keepalived 通知redis 執行slaveof slave IP host ,開始做爲從同步數據;
  3. 依次類推。

(2)主從同時Down機狀況:
• 非計劃性,不作考慮,通常也不會存在這種問題
• 計劃性重啓,重啓以前經過運維手段SAVE DUMP 主庫數據;須要注意順序:數據庫

  1. 關閉其中一臺機器上全部redis,是得master所有切到另一臺機器(多實例部署,單機上既有主又有從的狀況);並關閉機器
  2. 依次dump主上redis服務
  3. 關閉主
  4. 啓動主,並等待數據load完畢
  5. 啓動從
  6. 刪除DUMP 文件(避免重啓加載慢)

3、Memcache與Redis的比較
(1)數據結構:Memcache只支持key value存儲方式,Redis支持更多的數據類型,好比Key value、hash、list、set、zset;
(2)多線程:Memcache支持多線程,Redis支持單線程;CPU利用方面Memcache優於Redis;
(3)持久化:Memcache不支持持久化,Redis支持持久化;
(4)內存利用率:Memcache高,Redis低(採用壓縮的狀況下比Memcache高);
(5)過時策略:Memcache過時後,不刪除緩存,會致使下次取數據數據的問題,Redis有專門線程,清除緩存數據;緩存

相關文章
相關標籤/搜索