Logstash同步Hive和Clickhouse

簡介 工做中咱們遇到了把Hive數據同步到Clickhouse的業務需求,一開始咱們寫Spark任務,用SparkSQL讀Hive,再用JDBC寫入到Clickhouse。java 後來,隨着要同步的表愈來愈多,每次都寫Spark任務,成本就顯得有些高了。因而,寫了一個通用的Spark任務,指定Hive表、字段,指定Clickhouse表、字段,每次指定不一樣的參數。git 再後來,業務愈來愈複雜
相關文章
相關標籤/搜索