SparkConf 配置的概念和用法

一:概念 Spark應用程序的配置,用於將各種Spark參數設置爲鍵值對。 大多數情況下,將使用新的SparkConf(),創建一個SparkConf對象,該對象將從您的應用程序中設置的任何spark.的Java系統屬性加載值。 在這種情況下,* 直接在SparkConf對象上設置的參數優先於系統屬性 **。 二:使用 無論官方還是自定義,spark配置一定是以「spark.*」開頭 scala>
相關文章
相關標籤/搜索