RDD的持久化/緩存/容錯機制/寬窄依賴/生成和劃分Stage/累加器和廣播變量

RDD的持久化/緩存/容錯機制/寬窄依賴/生成和劃分Stage/累加器和廣播變量 一、RDD的持久化/緩存 Rdd數據持久化什麼做用? 一、對屢次使用的rdd進行緩存,緩存到內存,當後續頻繁使用時直接在內存中讀取緩存的數據,不須要從新計算。 二、將RDD結果寫入硬盤(容錯機制),當RDD丟失數據時,或依賴的RDD丟失數據時,可使用持久化到硬盤的數據恢復。 持久化/緩存(內存) 緩存方法 Persi
相關文章
相關標籤/搜索