streamsets mongodb destinations 使用

測試集成了directory(excel) 以及redis && field splitter 組件html

pipeline flow

docker-compose 配置

redis 服務&& streamsetsgit

version: "3"
services:
   sets:
     image: streamsets/datacollector 
     volumes:
     - "./ms/data:/data"
     - "./ms/logs:/logs"
     - "./ms/tmp:/tmp"
     ports:
     - "8000:8000"
     - "18630:18630"
   redis:
     image: redis
     ports:
     - "6379:6379"
   mongodb:
     image: mongo
     ports:
     - "27017:27017"

directory 配置

參考http://www.javashuo.com/article/p-ryjucpfr-gy.html 使用了excel 格式
excel 格式
github

field splitter

添加expression Evaluator 配置

添加crud header
redis

mongodb 配置

運行&&效果

  • 運行
  • mongodb

參考資料

https://streamsets.com/documentation/datacollector/latest/help/datacollector/UserGuide/Destinations/Redis.html#concept_ktc_gw2_gw
https://github.com/rongfengliang/streamsets-demosmongodb

相關文章
相關標籤/搜索