消息隊列mq總結

1、消息隊列概述

消息隊列中間件是分佈式系統中重要的組件，主要解決應用解耦，異步消息，流量削鋒等問題，實現高性能，高可用，可伸縮和最終一致性架構。目前使用較多的消息隊列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ

2、消息隊列應用場景

如下介紹消息隊列在實際應用中經常使用的使用場景。異步處理，應用解耦，流量削鋒和消息通信四個場景。

2.1異步處理

場景說明：用戶註冊後，須要發註冊郵件和註冊短信。傳統的作法有兩種 1.串行的方式；2.並行方式
a、串行方式：將註冊信息寫入數據庫成功後，發送註冊郵件，再發送註冊短信。以上三個任務所有完成後，返回給客戶端。

b、並行方式：將註冊信息寫入數據庫成功後，發送註冊郵件的同時，發送註冊短信。以上三個任務完成後，返回給客戶端。與串行的差異是，並行的方式能夠提升處理的時間

假設三個業務節點每一個使用50毫秒鐘，不考慮網絡等其餘開銷，則串行方式的時間是150毫秒，並行的時間多是100毫秒。
由於CPU在單位時間內處理的請求數是必定的，假設CPU1秒內吞吐量是100次。則串行方式1秒內CPU可處理的請求量是7次（1000/150）。並行方式處理的請求量是10次（1000/100）
小結：如以上案例描述，傳統的方式系統的性能（併發量，吞吐量，響應時間）會有瓶頸。如何解決這個問題呢？

引入消息隊列，將不是必須的業務邏輯，異步處理。改造後的架構以下：

按照以上約定，用戶的響應時間至關因而註冊信息寫入數據庫的時間，也就是50毫秒。註冊郵件，發送短信寫入消息隊列後，直接返回，所以寫入消息隊列的速度很快，基本能夠忽略，所以用戶的響應時間多是50毫秒。所以架構改變後，系統的吞吐量提升到每秒20 QPS。比串行提升了3倍，比並行提升了兩倍。

2.2應用解耦

場景說明：用戶下單後，訂單系統須要通知庫存系統。傳統的作法是，訂單系統調用庫存系統的接口。以下圖：

傳統模式的缺點：假如庫存系統沒法訪問，則訂單減庫存將失敗，從而致使訂單失敗，訂單系統與庫存系統耦合

如何解決以上問題呢？引入應用消息隊列後的方案，以下圖：

訂單系統：用戶下單後，訂單系統完成持久化處理，將消息寫入消息隊列，返回用戶訂單下單成功
庫存系統：訂閱下單的消息，採用拉/推的方式，獲取下單信息，庫存系統根據下單信息，進行庫存操做
假如：在下單時庫存系統不能正常使用。也不影響正常下單，由於下單後，訂單系統寫入消息隊列就再也不關心其餘的後續操做了。實現訂單系統與庫存系統的應用解耦

2.3流量削鋒

流量削鋒也是消息隊列中的經常使用場景，通常在秒殺或團搶活動中使用普遍。
應用場景：秒殺活動，通常會由於流量過大，致使流量暴增，應用掛掉。爲解決這個問題，通常須要在應用前端加入消息隊列。

a、能夠控制活動的人數

b、能夠緩解短期內高流量壓垮應用

用戶的請求，服務器接收後，首先寫入消息隊列。假如消息隊列長度超過最大數量，則直接拋棄用戶請求或跳轉到錯誤頁面。
秒殺業務根據消息隊列中的請求信息，再作後續處理

2.4日誌處理

日誌處理是指將消息隊列用在日誌處理中，好比Kafka的應用，解決大量日誌傳輸的問題。架構簡化以下

日誌採集客戶端，負責日誌數據採集，定時寫受寫入Kafka隊列
Kafka消息隊列，負責日誌數據的接收，存儲和轉發
日誌處理應用：訂閱並消費kafka隊列中的日誌數據

2.5消息通信

消息通信是指，消息隊列通常都內置了高效的通訊機制，所以也能夠用在純的消息通信。好比實現點對點消息隊列，或者聊天室等

點對點通信：

客戶端A和客戶端B使用同一隊列，進行消息通信。

聊天室通信：

客戶端A，客戶端B，客戶端N訂閱同一主題，進行消息發佈和接收。實現相似聊天室效果。

以上實際是消息隊列的兩種消息模式，點對點或發佈訂閱模式。模型爲示意圖，供參考。

3、消息中間件示例

3.1電商系統

消息隊列採用高可用，可持久化的消息中間件。好比Active MQ，Rabbit MQ，Rocket Mq。

（1）應用將主幹邏輯處理完成後，寫入消息隊列。消息發送是否成功能夠開啓消息的確認模式。（消息隊列返回消息接收成功狀態後，應用再返回，這樣保障消息的完整性）

（2）擴展流程（發短信，配送處理）訂閱隊列消息。採用推或拉的方式獲取消息並處理。

（3）消息將應用解耦的同時，帶來了數據一致性問題，能夠採用最終一致性方式解決。好比主數據寫入數據庫，擴展應用根據消息隊列，並結合數據庫方式實現基於消息隊列的後續處理。

3.2日誌收集系統

分爲Zookeeper註冊中心，日誌收集客戶端，Kafka集羣和Storm集羣（OtherApp）四部分組成。
Zookeeper註冊中心，提出負載均衡和地址查×××
日誌收集客戶端，用於採集應用系統的日誌，並將數據推送到kafka隊列
Kafka集羣：接收，路由，存儲，轉發等消息處理
Storm集羣：與OtherApp處於同一級別，採用拉的方式消費隊列中的數據

MQ選型對比文檔

綜合選擇RabbitMq

Kafka是linkedin開源的MQ系統，主要特色是基於Pull的模式來處理消息消費，追求高吞吐量，一開始的目的就是用於日誌收集和傳輸，0.8開始支持複製，不支持事務，適合產生大量數據的互聯網服務的數據收集業務。

RabbitMQ是使用Erlang語言開發的開源消息隊列系統，基於AMQP協議來實現。AMQP的主要特徵是面向消息、隊列、路由（包括點對點和發佈/訂閱）、可靠性、安全。AMQP協議更多用在企業系統內，對數據一致性、穩定性和可靠性要求很高的場景，對性能和吞吐量的要求還在其次。

RocketMQ是阿里開源的消息中間件，它是純Java開發，具備高吞吐量、高可用性、適合大規模分佈式系統應用的特色。RocketMQ思路起源於Kafka，但並非Kafka的一個Copy，它對消息的可靠傳輸及事務性作了優化，目前在阿里集團被普遍應用於交易、充值、流計算、消息推送、日誌流式處理、binglog分發等場景。

ZeroMQ只是一個網絡編程的Pattern庫，將常見的網絡請求形式（分組管理，連接管理，發佈訂閱等）模式化、組件化，簡而言之socket之上、MQ之下。對於MQ來講，網絡傳輸只是它的一部分，更多須要處理的是消息存儲、路由、Broker服務發現和查找、事務、消費模式（ack、重投等）、集羣服務等。

RabbitMQ/Kafka/ZeroMQ 都能提供消息隊列服務，但有很大的區別。
在面向服務架構中經過消息代理（好比 RabbitMQ / Kafka等），使用生產者-消費者模式在服務間進行異步通訊是一種比較好的思想。
由於服務間依賴由強耦合變成了鬆耦合。消息代理都會提供持久化機制，在消費者負載高或者掉線的狀況下會把消息保存起來，不會丟失。就是說生產者和消費者不須要同時在線，這是傳統的請求-應答模式比較難作到的，須要一箇中間件來專門作這件事。其次消息代理能夠根據消息自己作簡單的路由策略，消費者能夠根據這個來作負載均衡，業務分離等。
缺點也有，就是須要額外搭建消息代理集羣（但優勢是大於缺點的 ） 。
ZeroMQ 和 RabbitMQ/Kafka 不一樣，它只是一個異步消息庫，在套接字的基礎上提供了相似於消息代理的機制。使用 ZeroMQ 的話，須要對本身的業務代碼進行改造，不利於服務解耦。
RabbitMQ 支持 AMQP（二進制），STOMP（文本），MQTT（二進制），HTTP（裏面包裝其餘協議）等協議。Kafka 使用本身的協議。
Kafka 自身服務和消費者都須要依賴 Zookeeper。
RabbitMQ 在有大量消息堆積的狀況下性能會降低，Kafka不會。畢竟AMQP設計的初衷不是用來持久化海量消息的，而Kafka一開始是用來處理海量日誌的。
總的來講，RabbitMQ 和 Kafka 都是十分優秀的分佈式的消息代理服務，只要合理部署，不做，基本上能夠知足生產條件下的任何需求。

關於這兩種MQ的比較，網上的資料並很少，最權威的的是kafka的提交者寫一篇文章。www.quora.com/What-are-th…

裏面提到的要點：

一、 RabbitMq比kafka成熟，在可用性上，穩定性上，可靠性上，RabbitMq超過kafka

二、 Kafka設計的初衷就是處理日誌的，能夠看作是一個日誌系統，針對性很強，因此它並無具有一個成熟MQ應該具有的特性

三、 Kafka的性能（吞吐量、tps）比RabbitMq要強，這篇文章的做者認爲，二者在這方面沒有可比性。

歡迎工做一到五年的Java工程師朋友們加入Java架構開發：760940986 羣內提供免費的Java架構學習資料（裏面有高可用、高併發、高性能及分佈式、Jvm性能調優、Spring源碼，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個知識點的架構資料）合理利用本身每一分每一秒的時間來學習提高本身，不要再用"沒有時間「來掩飾本身思想上的懶惰！趁年輕，使勁拼，給將來的本身一個交代！