spark,以yarn-cluster模式提交做業,做業老是執行兩次。

緣由在於System.exit(0)的不正常應用,致使在以yarn-cluster模式提交時。cluster模式不支持shell,因此當執行到System.exit(0),程序開始報錯,而後集羣會按照yarn設定好的AM重啓次數(在CDH的yarn配置板塊中搜索application便可看到次數設置),從新運行,並且若是程序沒有錯的話,結果就沒有錯,這樣就很難發現錯誤了。shell object
相關文章
相關標籤/搜索