Flume avro client和hdfs sink 完成自定義目錄文件收集

準備 背景: 把分散在個邊緣Node的訪問日誌收集到中央節點,而後在作後續的處理。邊緣Node(例如hostname爲BJ-NODE1) 上的日誌每分鐘切出來一個文件,經過 Flume avro client 把5分鐘粒度內的日誌上傳到中央節點,生成一個文件,文件名相似 BJ-NODE1_timestamp.log。html 大概的邏輯以下圖java avro client D中央 avro cl
相關文章
相關標籤/搜索