[logstash-input-file]插件使用詳解

  前篇介紹過Logstash的使用,本篇繼續深刻,介紹下最經常使用的input插件——file。html

  這個插件能夠從指定的目錄或者文件讀取內容,輸入到管道處理,也算是logstash的核心插件了,大多數的使用場景都會用到這個插件,所以這裏詳細講述下各個參數的含義與使用。node

最小化的配置文件

  在Logstash中能夠在 input{} 裏面添加file配置,默認的最小化配置以下:數組

input {  file { path => "E:/software/logstash-1.5.4/logstash-1.5.4/data/*" } } filter { } output { stdout {} }

  固然也能夠監聽多個目標文件:ide

input {  file { path => ["E:/software/logstash-1.5.4/logstash-1.5.4/data/*","F:/test.txt"] } } filter { } output { stdout {} }

  文件的路徑名須要時絕對路徑,而且支持globs寫法學習

其餘的配置

  另外,處理path這個必須的項外,file還提供了不少其餘的屬性:ui

input {  file { #監聽文件的路徑 path => ["E:/software/logstash-1.5.4/logstash-1.5.4/data/*","F:/test.txt"] #排除不想監聽的文件 exclude => "1.log" #添加自定義的字段 add_field => {"test"=>"test"} #增長標籤 tags => "tag1" #設置新事件的標誌 delimiter => "\n" #設置多長時間掃描目錄,發現新文件 discover_interval => 15 #設置多長時間檢測文件是否修改 stat_interval => 1 #監聽文件的起始位置,默認是end start_position => beginning #監聽文件讀取信息記錄的位置 sincedb_path => "E:/software/logstash-1.5.4/logstash-1.5.4/test.txt" #設置多長時間會寫入讀取的位置信息 sincedb_write_interval => 15 } } filter { } output { stdout {} }

  其中值得注意的是:spa

  1 path 插件

  是必須的選項,每個file配置,都至少有一個path日誌

  2 exclude code

  是不想監聽的文件,logstash會自動忽略該文件的監聽。配置的規則與path相似,支持字符串或者數組,可是要求必須是絕對路徑。

  3 start_position

  是監聽的位置,默認是end,即一個文件若是沒有記錄它的讀取信息,則從文件的末尾開始讀取,也就是說,僅僅讀取新添加的內容。對於一些更新的日誌類型的監聽,一般直接使用end就能夠了;相反,beginning就會從一個文件的頭開始讀取。可是若是記錄過文件的讀取信息,這個配置也就失去做用了。

  4 sincedb_path

  這個選項配置了默認的讀取文件信息記錄在哪一個文件中,默認是按照文件的inode等信息自動生成。其中記錄了inode、主設備號、次設備號以及讀取的位置。所以,若是一個文件僅僅是重命名,那麼它的inode以及其餘信息就不會改變,所以也不會從新讀取文件的任何信息。相似的,若是複製了一個文件,就至關於建立了一個新的inode,若是監聽的是一個目錄,就會讀取該文件的全部信息。

  5 其餘的關於掃描和檢測的時間,按照默認的來就行了,若是頻繁建立新的文件,想要快速監聽,那麼能夠考慮縮短檢測的時間。

  6 add_field

  就是增長一個字段,例如:

file { add_field => {"test"=>"test"} path => "D:/tools/logstash/path/to/groksample.log" start_position => beginning }

  7 tags

  用於增長一些標籤,這個標籤可能在後續的處理中起到標誌的做用

  8 delimiter

  是事件分行的標誌,若是配置成123,那麼就會以下所示。這個選項,一般在多行事件中比較有用。

  暫時關於file就研究的這麼多,後續會深刻學習源碼,作更多的分享。

參考

【1】logstash官方文檔:https://www.elastic.co/guide/en/logstash/current/plugins-inputs-file.html#plugins-inputs-file-sincedb_path

相關文章
相關標籤/搜索