Spark詳解(九):Spark存儲原理分析

1. 整體架構 Spark存儲介質包括內存和磁盤等。Spakr的存儲採用了主從模式,也就是Master/Slave模式,整個存儲模塊使用了前面介紹的RPC的通信方式。其中,Master負責整個應用程序運行期間的數據塊元數據的管理和維護,而Slave一方面負責本地數據塊的狀態信息上報給Master,另一方面接受從Master傳來的執行命令,如獲取數據塊狀態、刪除RDD/數據塊等命令。在每個Slave
相關文章
相關標籤/搜索