spark系列-應用篇之經過yarn api提交Spark任務

前言 在工做中,大部使用的都是hadoop和spark的shell命令,或者經過java或者scala編寫代碼。最近工做涉及到經過yarn api處理spark任務,感受yarn的api仍是挺全面的,可是調用時須要傳入不少參數,並且會出現一些詭異的問題。雖然最終使用livy來提交任務,可是經過yarn api提交任務能夠幫助使用者更好的理解yarn,並且使用yarn查詢任務仍是不錯的。至於livy
相關文章
相關標籤/搜索