zeppelin 配置 spark

修改zeppelin 配置文件

在zeppelin-env.sh中添加spark路徑和hadoop配置文件路徑java

export SPARK_HOME=/usr/lib/spark
export HADOOP_CONF_DIR=/usr/lib/hadoop

修改spark interpreter參數

master 能夠爲:docker

local[*] in local mode
spark://master:7077 in standalone cluster
yarn-client in Yarn client mode
yarn-cluster in Yarn cluster mode
mesos://host:5050 in Mesos cluster

我這裏是 spark on yarn 因此我配置的 master 爲yarn,提交模式爲 cluster,我設置爲 client 的時候運行任務一直卡着不動apache

排錯

我這裏是在docker裏搭建的,中間還報了其它的錯網絡

java.lang.RuntimeException: org.apache.zeppelin.interpreter.InterpreterException: org.apache.thrift.transport.TTransportException: java.net.ConnectException: Connection refused

後來發現是AM沒法實例化的緣由oop

host -i

發現docker 裏是一個虛擬ipspa

解決方法:.net

啓動docker時指定網絡鏈接方式code

host模式 :

docker run 使用 --net=host指定

docker使用的網絡實際上和宿主機同樣

遺留問題

一、沒法使用client模式blog

二、沒法訪問hive表ip

若是有知道的大佬,請指導

相關文章
相關標籤/搜索