spark基於akka一個任務通訊的簡單流程

本文介紹spark通訊的簡單流程,通過本文也可以瞭解簡單的spark任務執行流程  1.Master 啓動成功後(開啓線程定時檢查Worker存活與否) ,啓動Worker,這時候Worker與Master間進行通訊。通訊內容:向Master註冊信息(包含一些自己電腦的配置情況,方便Master後續分配任務) 之後向 Master定時發送心跳包 用以報活。 2.當用戶提交任務時,機器會啓動driv
相關文章
相關標籤/搜索