什麼是秒殺
秒殺場景通常會在電商網站舉行一些活動或者節假日在12306網站上搶票時遇到。對於電商網站中一些稀缺或者特價商品,電商網站通常會在約定時間點對其進行限量銷售,由於這些商品的特殊性,會吸引大量用戶前來搶購,而且會在約定的時間點同時在秒殺頁面進行搶購。前端
秒殺系統場景特色
- 秒殺時大量用戶會在同一時間同時進行搶購,網站瞬時訪問流量激增。
- 秒殺通常是訪問請求數量遠遠大於庫存數量,只有少部分用戶可以秒殺成功。
- 秒殺業務流程比較簡單,通常就是下訂單減庫存。
秒殺架構設計理念
限流: 鑑於只有少部分用戶可以秒殺成功,因此要限制大部分流量,只容許少部分流量進入服務後端。mysql
削峯:對於秒殺系統瞬時會有大量用戶涌入,因此在搶購一開始會有很高的瞬間峯值。高峯值流量是壓垮系統很重要的緣由,因此如何把瞬間的高流量變成一段時間平穩的流量也是設計秒殺系統很重要的思路。實現削峯的經常使用的方法有利用緩存和消息中間件等技術。redis
異步處理:秒殺系統是一個高併發系統,採用異步處理模式能夠極大地提升系統併發量,其實異步處理就是削峯的一種實現方式。算法
內存緩存:秒殺系統最大的瓶頸通常都是數據庫讀寫,因爲數據庫讀寫屬於磁盤IO,性能很低,若是可以把部分數據或業務邏輯轉移到內存緩存,效率會有極大地提高。sql
可拓展:固然若是咱們想支持更多用戶,更大的併發,最好就將系統設計成彈性可拓展的,若是流量來了,拓展機器就行了。像淘寶、京東等雙十一活動時會增長大量機器應對交易高峯。數據庫
架構方案
通常秒殺系統架構
設計思路
將請求攔截在系統上游,下降下游壓力:秒殺系統特色是併發量極大,但實際秒殺成功的請求數量卻不多,因此若是不在前端攔截極可能形成數據庫讀寫鎖衝突,甚至致使死鎖,最終請求超時。
充分利用緩存:利用緩存可極大提升系統讀寫速度。
消息隊列:消息隊列能夠削峯,將攔截大量併發請求,這也是一個異步處理過程,後臺業務根據本身的處理能力,從消息隊列中主動的拉取請求消息進行業務處理。後端
前端方案
瀏覽器端(js):
頁面靜態化:將活動頁面上的全部能夠靜態的元素所有靜態化,並儘可能減小動態元素。經過CDN來抗峯值。
禁止重複提交:用戶提交以後按鈕置灰,禁止重複提交
用戶限流:在某一時間段內只容許用戶提交一次請求,好比能夠採起IP限流瀏覽器
後端方案
服務端控制器層(網關層)
限制uid(UserID)訪問頻率:咱們上面攔截了瀏覽器訪問的請求,但針對某些惡意攻擊或其它插件,在服務端控制層須要針對同一個訪問uid,限制訪問頻率。緩存
服務層
上面只攔截了一部分訪問請求,當秒殺的用戶量很大時,即便每一個用戶只有一個請求,到服務層的請求數量仍是很大。好比咱們有100W用戶同時搶100臺手機,服務層併發請求壓力至少爲100W。數據結構
-
採用消息隊列緩存請求:既然服務層知道庫存只有100臺手機,那徹底沒有必要把100W個請求都傳遞到數據庫啊,那麼能夠先把這些請求都寫到消息隊列緩存一下,數據庫層訂閱消息減庫存,減庫存成功的請求返回秒殺成功,失敗的返回秒殺結束。
-
利用緩存應對讀請求:對相似於12306等購票業務,是典型的讀多寫少業務,大部分請求是查詢請求,因此能夠利用緩存分擔數據庫壓力。
- 利用緩存應對寫請求:緩存也是能夠應對寫請求的,好比咱們就能夠把數據庫中的庫存數據轉移到Redis緩存中,全部減庫存操做都在Redis中進行,而後再經過後臺進程把Redis中的用戶秒殺請求同步到數據庫中。
數據庫層
數據庫層是最脆弱的一層,通常在應用設計時在上游就須要把請求攔截掉,數據庫層只承擔「能力範圍內」的訪問請求。因此,上面經過在服務層引入隊列和緩存,讓最底層的數據庫高枕無憂。
案例:利用消息中間件和緩存實現簡單的秒殺系統
Redis是一個分佈式緩存系統,支持多種數據結構,咱們能夠利用Redis輕鬆實現一個強大的秒殺系統。
咱們能夠採用Redis 最簡單的key-value
數據結構,用一個原子類型的變量值(AtomicInteger
)做爲key,把用戶id做爲value,庫存數量即是原子變量的最大值。對於每一個用戶的秒殺,咱們使用 RPUSH key value
插入秒殺請求, 當插入的秒殺請求數達到上限時,中止全部後續插入。
而後咱們能夠在臺啓動多個工做線程,使用 LPOP key
讀取秒殺成功者的用戶id,而後再操做數據庫作最終的下訂單減庫存操做。
固然,上面Redis也能夠替換成消息中間件如ActiveMQ
、RabbitMQ
等,也能夠將緩存和消息中間件 組合起來,緩存系統負責接收記錄用戶請求,消息中間件負責將緩存中的請求同步到數據庫。