基於ZooKeeper實現HA高可用性以及自動主備切換

默認狀況下,standalone cluster manager對於worker節點的失敗是具備容錯性的(迄今爲止,Spark自身而言對於丟失部分計算工做是有容錯性的,它會將丟失的計算工做遷移到其餘worker節點上執行)。然而,調度器是依託於master進程來作出調度決策的,這就會形成單點故障:若是master掛掉了,就無法提交新的應用程序了。爲了解決這個問題,spark提供了兩種高可用性方案,
相關文章
相關標籤/搜索