SparkStreaming控制消費速率(反壓機制)

反壓機制: spark1.5以後,通過動態收集系統的一些數據來自動的適配集羣數據處理能力 在默認情況下,Spark Streaming 通過 receivers (或者是 Direct 方式) 以生產者生產數據的速率接收數據。當 batch processing time > batch interval 的時候,也就是每個批次數據處理的時間要比 Spark Streaming 批處理間隔時間長;
相關文章
相關標籤/搜索