我有带有 Spark 1.4.1 和 Yarn 资源管理器的 Amazon EMR Hadoop v2.6 集群。我想在单独的机器上部署 Zeppelin 以允许在没有作业运行时关闭 EMR 集群。
我尝试按照此处https://zeppelin.incubator.apache.org/docs/install/yarn_install.html的说明进行操作, 但收效甚微。
有人可以揭开 Zeppelin 应该如何从不同机器连接到现有 Yarn 集群的步骤吗?
我有带有 Spark 1.4.1 和 Yarn 资源管理器的 Amazon EMR Hadoop v2.6 集群。我想在单独的机器上部署 Zeppelin 以允许在没有作业运行时关闭 EMR 集群。
我尝试按照此处https://zeppelin.incubator.apache.org/docs/install/yarn_install.html的说明进行操作, 但收效甚微。
有人可以揭开 Zeppelin 应该如何从不同机器连接到现有 Yarn 集群的步骤吗?
[1] 使用适当的参数安装 Zeppelin:
git clone https://github.com/apache/incubator-zeppelin.git ~/zeppelin;
cd ~/zeppelin;
mvn clean package -Pspark-1.4 -Dhadoop.version=2.6.0 -Phadoop-2.6 -Pyarn -DskipTests
[2] 更新 EMR_MASTER EC2 安全组以接受来自所有端口的传入请求,与 Zeppelin 通信(应该是特定端口,尚不知道是哪个端口)
[3] 将目录 EMR_MASTER:/etc/hadoop/conf 复制到 MY_STANDALONE_SERVER:/home/zeppelin/hadoop-conf。
[4] zeppelin/conf/zeppelin-env.sh 应该包含:
export MASTER=yarn-client
export HADOOP_CONF_DIR=/home/zeppelin/hadoop-conf
注意:Spark 参数如spark.executor.instances
取自解释器设置,在此处指定。