6

我有带有 Spark 1.4.1 和 Yarn 资源管理器的 Amazon EMR Hadoop v2.6 集群。我想在单独的机器上部署 Zeppelin 以允许在没有作业运行时关闭 EMR 集群。

我尝试按照此处https://zeppelin.incubator.apache.org/docs/install/yarn_install.html的说明进行操作, 但收效甚微。

有人可以揭开 Zeppelin 应该如何从不同机器连接到现有 Yarn 集群的步骤吗?

4

1 回答 1

13

[1] 使用适当的参数安装 Zeppelin:

git clone https://github.com/apache/incubator-zeppelin.git ~/zeppelin;
cd ~/zeppelin;
mvn clean package -Pspark-1.4 -Dhadoop.version=2.6.0 -Phadoop-2.6 -Pyarn -DskipTests

[2] 更新 EMR_MASTER EC2 安全组以接受来自所有端口的传入请求,与 Zeppelin 通信(应该是特定端口,尚不知道是哪个端口)

[3] 将目录 EMR_MASTER:/etc/hadoop/conf 复制到 MY_STANDALONE_SERVER:/home/zeppelin/hadoop-conf。

[4] zeppelin/conf/zeppelin-env.sh 应该包含:

export MASTER=yarn-client
export HADOOP_CONF_DIR=/home/zeppelin/hadoop-conf

注意:Spark 参数如spark.executor.instances取自解释器设置,在此处指定。

于 2015-09-15T18:42:55.840 回答