消息隊列廢話很少說了,直切正題吧:
直接去https://github.com/nsqio/nsq/releases下載編譯好的執行文件,好比我下載的是nsq-1.2.0.linux-amd64.go1.12.9.tar.gzhtml
直接解壓後(個人重命名了nsq-1.2.0):bin目錄裏就會出現一大堆nsq_…開頭的可執行文件:
vue
cd nsq-1.2.0/bin
./nsqlookupd &
./nsqd --lookupd-tcp-address=127.0.0.1:4160 &
./nsqadmin --lookupd-http-address=0.0.0.0:4161 --http-address=10.20.23.29:8761&
curl -d 'hello world 1' 'http://127.0.0.1:4151/pub?topic=hello word'
./nsq_to_file --topic=test --output-dir=/tmp/log --lookupd-http-address=127.0.0.1:4161
http://10.20.23.29:8761/
linux
nsqlookupdgit
看看官方的原話是怎麼說:
nsqlookupd是守護進程負責管理拓撲信息。客戶端經過查詢 nsqlookupd 來發現指定話題(topic)的生產者,而且 nsqd 節點廣播話題(topic)和通道(channel)信息
簡單的說nsqlookupd就是中心管理服務,它使用tcp(默認端口4160)管理nsqd服務,使用http(默認端口4161)管理nsqadmin服務。同時爲客戶端提供查詢功能
總的來講,nsqlookupd具備如下功能或特性
惟一性,在一個Nsq服務中只有一個nsqlookupd服務。固然也能夠在集羣中部署多個nsqlookupd,但它們之間是沒有關聯的
去中心化,即便nsqlookupd崩潰,也會不影響正在運行的nsqd服務
充當nsqd和naqadmin信息交互的中間件
提供一個http查詢服務,給客戶端定時更新nsqd的地址目錄
nsqadmingithub
官方原話:是一套 WEB UI,用來聚集集羣的實時統計,並執行不一樣的管理任務
總的來講,nsqadmin具備如下功能或特性
提供一個對topic和channel統一管理的操做界面以及各類實時監控數據的展現,界面設計的很簡潔,操做也很簡單
展現全部message的數量,恩…裝X利器
可以在後臺建立topic和channel,這個應該不經常使用到
nsqadmin的全部功能都必須依賴於nsqlookupd,nsqadmin只是向nsqlookupd傳遞用戶操做並展現來自nsqlookupd的數據
nsqadmin默認的訪問地址是 http://127.0.0.1:4171/sql
建立一個channer001主題,併發送一個how are you消息瀏覽器
curl -d 'how are you' 'http://127.0.0.1:4151/pub?topic=channer001'
nsqd緩存
官方原話:nsqd 是一個守護進程,負責接收,排隊,投遞消息給客戶端 簡單的說,真正幹活的就是這個服務,它主要負責message的收發,隊列的維護。nsqd會默認監聽一個tcp端口(4150)和一個http端口(4151)以及一個可選的https端口 總的來講,nsqd 具備如下功能或特性 對訂閱了同一個topic,同一個channel的消費者使用負載均衡策略(不是輪詢) 只要channel存在,即便沒有該channel的消費者,也會將生產者的message緩存到隊列中(注意消息的過時處理) 保證隊列中的message至少會被消費一次,即便nsqd退出,也會將隊列中的消息暫存磁盤上(結束進程等意外狀況除外) 限定內存佔用,可以配置nsqd中每一個channel隊列在內存中緩存的message數量,一旦超出,message將被緩存到磁盤中 topic,channel一旦創建,將會一直存在,要及時在管理臺或者用代碼清除無效的topic和channel,避免資源的浪費
這是官方的圖,第一個channel(meteics)由於有多個消費者,因此觸發了負載均衡機制。後面兩個channel因爲沒有消費者,全部的message均會被緩存在相應的隊列裏,直到消費者出現
併發
官方提供了Go語言版的客戶端:go-nsq,更多客戶端支持請查看CLIENT LIBRARIES。負載均衡
go get -u github.com/nsqio/go-nsq
一個簡單的生產者示例代碼以下:
// gin-vue/product.go package main import ( "log" "github.com/nsqio/go-nsq" "io/ioutil" "strconv" ) var nullLogger = log.New(ioutil.Discard, "", log.LstdFlags) func sendMessage() { config := nsq.NewConfig() // 1. 建立生產者 producer, err := nsq.NewProducer("127.0.0.1:4150", config) if err != nil { log.Fatalln("鏈接失敗: (127.0.0.1:4150)", err) } errPing := producer.Ping() // 2. 生產者ping if errPing != nil { log.Fatalln("沒法ping通: 127.0.0.1:4150", errPing) } producer.SetLogger(nullLogger, nsq.LogLevelInfo) // 3. 設置不輸出info級別的日誌 for i := 0; i < 5; i++ { // 4. 生產者發佈消息 message := "消息發送測試 " + strconv.Itoa(i+10000) err2 := producer.Publish("one-test", []byte(message)) // 注意one-test 對應消費者consumer.go 保持一致 if err2 != nil { log.Panic("生產者推送消息失敗!") } } producer.Stop() // 5. 生產者中止執行 } func main() { sendMessage() }
建立消費者的方式有兩種,一種是經過http請求來發現nsqd生產者和配置的topic,另外一種是直接使用tcp請求來鏈接本地實例 。
示例代碼以下所示:
// gin-vue/consumer.go package main import ( "log" "github.com/nsqio/go-nsq" "fmt" ) func doConsumerTask() { // 1. 建立消費者 config := nsq.NewConfig() q, errNewCsmr := nsq.NewConsumer("one-test", "ch-one-test", config) if errNewCsmr != nil { fmt.Printf("fail to new consumer!, topic=%s, channel=%s", "one-test", "ch-one-test") } // 2. 添加處理消息的方法 q.AddHandler(nsq.HandlerFunc(func(message *nsq.Message) error { log.Printf("message: %v", string(message.Body)) message.Finish() return nil })) // 3. 經過http請求來發現nsqd生產者和配置的topic(推薦使用這種方式) lookupAddr := []string{ "127.0.0.1:4161", } err := q.ConnectToNSQLookupds(lookupAddr) if err != nil { log.Panic("[ConnectToNSQLookupds] Could not find nsqd!") } // 4. 接收消費者中止通知 <-q.StopChan // 5. 獲取統計結果 stats := q.Stats() fmt.Sprintf("message received %d, finished %d, requeued:%s, connections:%s", stats.MessagesReceived, stats.MessagesFinished, stats.MessagesRequeued, stats.Connections) } func main() { doConsumerTask() }
將上面的代碼編譯執行,而後在終端輸入後效果以下:
使用瀏覽器打開http://10.20.23.29:8761/能夠查看到相似下面的頁面: 在下面這個頁面能看到當前的topic
信息:
點擊對應的topic進去查看詳情:
go-nsq
的更多內容請閱讀
go-nsq的官方文檔。