做者： inkt1234git
來源：https://blog.csdn.net/Linkthaha/article/details/100575278 [toc]github
最近，在對公司容器雲的日誌方案進行設計的時候，發現主流的ELK或者EFK比較重，再加上現階段對於ES複雜的搜索功能不少都用不上最終選擇了Grafana開源的Loki日誌系統，下面介紹下Loki的背景。面試
背景和動機
當咱們的容器雲運行的應用或者某個節點出現問題了，解決思路應該以下： 
算法
咱們的監控使用的是基於prometheus體系進行改造的，prometheus中比較重要的是metric和alert,metric是來講明當前或者歷史達到了某個值，alert設置metric達到某個特定的基數觸發了告警，可是這些信息明顯是不夠的。咱們都知道，k8s的基本單位是pod,pod把日誌輸出到stdout和stderr,平時有什麼問題咱們一般在界面或者經過命令查看相關的日誌,舉個例子：當咱們的某個pod的內存變得很大，觸發了咱們的alert，這個時候管理員，去頁面查詢確認是哪一個pod有問題，而後要確認pod內存變大的緣由，咱們還須要去查詢pod的日誌，若是沒有日誌系統，那麼咱們就須要到頁面或者使用命令進行查詢了：數據庫
若是，這個時候應用忽然掛了，這個時候咱們就沒法查到相關的日誌了，因此須要引入日誌系統，統一收集日誌，而使用ELK的話，就須要在Kibana和Grafana之間切換，影響用戶體驗。因此 ，loki的第一目的就是最小化度量和日誌的切換成本，有助於減小異常事件的響應時間和提升用戶的體驗api
ELK存在的問題
現有的不少日誌採集的方案都是採用全文檢索對日誌進行索引（如ELK方案），優勢是功能豐富，容許複雜的操做。可是，這些方案每每規模複雜，資源佔用高，操做苦難。不少功能每每用不上，大多數查詢只關注必定時間範圍和一些簡單的參數（如host、service等），使用這些解決方案就有點殺雞用牛刀的感受了。所以，Loki的第二個目的是，在查詢語言的易操做性和複雜性之間能夠達到一個權衡。微信
所以，Loki的第二個目的是，在查詢語言的易操做性和複雜性之間能夠達到一個權衡。架構
成本
全文檢索的方案也帶來成本問題，簡單的說就是全文搜索（如ES）的倒排索引的切分和共享的成本較高。後來出現了其餘不一樣的設計方案如：OKlog(https://github.com/oklog/oklog),採用最終一致的、基於網格的分佈策略。這兩個設計決策提供了大量的成本下降和很是簡單的操做，可是查詢不夠方便。所以，Loki的第三個目的是，提升一個更具成本效益的解決方案。分佈式
總體架構
Loki的架構以下：.net
不難看出，Loki的架構很是簡單，使用了和prometheus同樣的標籤來做爲索引，也就是說，你經過這些標籤既能夠查詢日誌的內容也能夠查詢到監控的數據，不但減小了兩種查詢之間的切換成本，也極大地下降了日誌索引的存儲。Loki將使用與prometheus相同的服務發現和標籤從新標記庫,編寫了pormtail, 在k8s中promtail以daemonset方式運行在每一個節點中，經過kubernetes api等到日誌的正確元數據，並將它們發送到Loki。下面是日誌的存儲架構：
讀寫
日誌數據的寫主要依託的是Distributor和Ingester兩個組件,總體的流程以下：
Distributor
一旦promtail收集日誌並將其發送給loki，Distributor就是第一個接收日誌的組件。因爲日誌的寫入量可能很大，因此不能在它們傳入時將它們寫入數據庫。這會毀掉數據庫。咱們須要批處理和壓縮數據。 Loki經過構建壓縮數據塊來實現這一點，方法是在日誌進入時對其進行gzip操做，組件ingester是一個有狀態的組件，負責構建和刷新chunck，當chunk達到必定的數量或者時間後，刷新到存儲中去。每一個流的日誌對應一個ingester,當日志到達Distributor後，根據元數據和hash算法計算出應該到哪一個ingester上面。
此外，爲了冗餘和彈性，咱們將其複製n（默認狀況下爲3）次。
Ingester
ingester接收到日誌並開始構建chunk:
基本上就是將日誌進行壓縮並附加到chunk上面。一旦chunk「填滿」（數據達到必定數量或者過了必定期限），ingester將其刷新到數據庫。咱們對塊和索引使用單獨的數據庫，由於它們存儲的數據類型不一樣。
刷新一個chunk以後，ingester而後建立一個新的空chunk並將新條目添加到該chunk中。
Querier
讀取就很是簡單了，由Querier負責給定一個時間範圍和標籤選擇器，Querier查看索引以肯定哪些塊匹配，並經過greps將結果顯示出來。它還從Ingester獲取還沒有刷新的最新數據。 對於每一個查詢，一個查詢器將爲您顯示全部相關日誌。實現了查詢並行化，提供分佈式grep，使即便是大型查詢也是足夠的。
可擴展性
Loki的索引存儲能夠是cassandra/bigtable/dynamodb，而chuncks能夠是各類對象存儲，Querier和Distributor都是無狀態的組件。對於ingester他雖然是有狀態的可是，當新的節點加入或者減小，整節點間的chunk會從新分配，已適應新的散列環。而Loki底層存儲的實現Cortex已經 在實際的生產中投入使用多年了。有了這句話，我能夠放心的在環境中實驗一把了。
微信搜索：【Java小咖秀】更多精彩等着您~ 回覆手冊獲取博主15萬字Java面試通關手冊&1.4萬字Linux命令實戰書冊~