CacheManager原理剖析與源碼分析

首先 RDD 是通過 iterator 來進行計算: CacheManager 會通過 BlockManager 從 Local 或者 Remote 獲取數據直接通過 RDD 的 compute 進行計算,有可能需要考慮 checkpoint; 通過 BlockManager 首先從本地獲取數據,如果獲得不到數據的話會從遠程獲取數據 首先檢查看當前的 RDD 是否進行了 CheckPoint ,如
相關文章
相關標籤/搜索