企業日誌分析之linux系統message收集展現

以前寫了收集linux系統歷史history命令，下面介紹一下系統裏日誌收集與展現的。

老規矩，先看效果，滿意的話繼續看。

1、效果圖

一、總覽

二、linux系統日誌收集數據總量

主要是展現所選範圍內容收集日誌總量

三、linux系統日誌收集主機數

主要是展現當前總共有多少臺主機上傳了message日誌數據

四、linux系統日誌程序類型Top5

主要是展現收集的日誌信息裏前5個程序名；我這5個都是docker服務器，因此docker日誌有不少。

五、linux系統日誌時間數據總量圖

主要是展現每一個時間段收集的數據量

六、linux系統日誌數據

主要是展現詳細的日誌數據

安裝elk的過程能夠參考上一篇，地址是http://dl528888.blog.51cto.com/2382721/1703059

2、收集日誌

我收集的是系統/var/log/messages日誌，而後經過rsyslog的tcp 8514端口發給logstash。

一、配置rsyslog

默認rsyslog都安裝了，因此只須要修改配置

在/etc/rsyslog.conf裏添加

*.* @@localhost:8514

而後重啓rsyslog

二、配置logstash

[root@puppet tmp]# cat /etc/logstash/conf.d/logstash_agent.conf
input {
    tcp {
    port => "8514"
    type => "syslog"
   }
}

filter {
  if [type] == "syslog" {
    grok {
      match => { "message" => "%{SYSLOGTIMESTAMP:syslog_timestamp} %{SYSLOGHOST:syslog_hostname} %{DATA:syslog_program}(?:\[%{POSINT:syslog_pid}\])?: %{GREEDYDATA:syslog_message}" }
    }
  }
}

output {
redis {

host => ["10.10.125.8:6379"]

data_type =>"list"
key => "logstash:redis"

}

}

三、導入模板

導入順序

一、Linux系統日誌試圖.json

二、Linux系統日誌搜索.json

三、Linux系統日誌Dashboard.json

其餘的有問題能夠留言。