Spark Storage概述

概述 Spark的Storage模塊負責RDD(persist或cache)、Shuffle中間結果、Broadcast變量的存儲及管理。 設計 組件 Storage模塊抽象出BlockManager,提供公有的putXXX、getXXX方法供其他模塊調用而無需關心其實現細節,BlockManager實現涉及的其他主要class如下(按原始數據和元數據管理分) BlockStore 以block爲
相關文章
相關標籤/搜索