sparkStreaming讀取kafka的兩種方式

第一個是:Receiver-base 基於Receiver的kafka數據消費模式就是先把數據從kafka中讀取出來而後緩存到內存而後再定時處理。這裏要引入一個參數配置 spark.streaming.receiver.writeAheadLog.enable 防止集羣閃退偏移量沒作好形成數據丟失。 Receiver-basede kafka讀取模式是基於Kafka的高階(high-level)a
相關文章
相關標籤/搜索