spark

一、在yarn模式下運行spark做業html (1)若是想讓spark做業能夠運行在yarn上,那麼首先必須在配置文件spark-env.sh文件中,配置HADOOP_CONF_DIR或者YARN_CONF_DIR屬性,由於再使用spark-submit提交spark做業時,要先給yarn的resourcemanager發送請求,因此spark須要讀spark-env.sh配置文件獲取。java
相關文章
相關標籤/搜索