elasticsearch之logstash安裝並同步數據庫數據到es

  • logstash安裝

         訪問https://www.elastic.co/cn/downloads/logstash下載對應es版本的zip包,java

    解壓zip,進入logstash目錄下,在此目錄下打開cmd窗口。mysql

    在命令窗口輸入以下命令:sql

logstash -e 'input { stdin { } } output { stdout {} }'

     再輸入「hello」,若是結果也是「hello」說明安裝成功。數據庫

  • 同步數據到es

        在logstash的bin目錄下新建jdbc.conf文件並輸入一下內容:json

input {
    stdin {
    }
    jdbc {
      # 數據庫地址  端口  數據庫名
      jdbc_connection_string => "jdbc:mysql://IP:3306/dbname"
      # 數據庫用戶名
      jdbc_user => "user"
      # 數據庫密碼
      jdbc_password => "pass"
      # mysql java驅動地址
      jdbc_driver_library => "/home/rzxes/logstash-5.3.1/mysql-connector-java-5.1.17.jar"
      jdbc_driver_class => "com.mysql.jdbc.Driver"
      jdbc_paging_enabled => "true"
      jdbc_page_size => "100000"
      # sql 語句文件,也能夠直接寫SQL,如statement => "select * from table1"
      statement_filepath => "/home/rzxes/logstash-5.3.1/test.sql"
      schedule => "* * * * *"
      type => "jdbc"
    }
}
output {
    stdout {
        codec => json_lines
    }
    elasticsearch {
        hosts  => "192.168.230.150:9200"
        index => "test-1" #索引名稱
        document_type => "form" #type名稱
        document_id => "%{id}" #id必須是待查詢的數據表的序列字段
} }

若是是mysql則須要mysql-connector-java-5.1.17.jar,若是是oracle則須要ojdbc6.jar;oracle

在logstash主目錄下cmd輸入以下命令便可:elasticsearch

logstash -f jdbc.conf

最後查看數據是否導入esspa

參考資料:http://www.jaofuan.top/u/detail/4d87dfd8551f4449928d2c6651673ec5code

相關文章
相關標籤/搜索