streamsets 集成 minio s3測試

具體streamsets crate 集成能夠參考 streamsets crate
如下文檔只關注minio 集成的配置

minio 服務

• 搭建

  具體搭建參考： http://www.javashuo.com/article/p-tpyxwcgx-hb.html

• 建立bucket （crate 集成使用）

  測試的csv 文件從https://www.streamsets.com/documentation/datacollector/sample_data/tutorial/nyc_taxi_data.csv 下載

集成

• pipeline flow
  
• minio s3 配置
  
  
• 字段轉換配置
  
• cratedb 配置
  
  

測試&&運行

• 運行
  
• cratedb 數據
  
  

參考資料

https://crate.io/docs/crate/guide/en/latest/tools/streamsets.html
http://www.javashuo.com/article/p-tpyxwcgx-hb.html
https://github.com/rongfengliang/streamsets-demos/tree/master/cratedb