问题标签 [cloudera-quickstart-vm]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
444 浏览

hadoop - 调试 Apache Slider 包?

我完成了 Slider Memcached 教程,并且能够成功打包/部署/启动 memcached 容器;但是,当我打包一个自定义应用程序时,基本上是一个 Java jar 加上依赖项,容器永远不会成功启动。

应用程序页面显示应用程序处于 FINISHED/FAILED 状态并带有此诊断: http://quickstart.cloudera:8088/cluster/app/application_1439926335194_0001

诊断:不稳定的应用程序实例:-失败,组件 MYAPP 最近失败了 6 次(启动时 4 次);阈值为 5 - 最后一次失败:主机 quickstart.cloudera (0) 上的失败 container_1439926335194_0001_01_000008:http://quickstart.cloudera:19888/jobhistory/logs//quickstart.cloudera:8041/container_1439926335194_0001_01_000008/ctx/MYUSER

诊断容器问题的部分挑战是日志在应用程序完成后消失。 http://quickstart.cloudera:8042/node/containerlogs/container_1439926335194_0001_01_000001/MYUSER

滑块有一个故障排除页面,表明您可以在应用程序完成后保留日志:http: //slider.incubator.apache.org/docs/troubleshooting.html

配置 YARN 以更好地调试 帮助调试的一种配置是告诉节点管理器在容器完成后将数据保留一小段时间

我在 Yarn - Configuration - NodeManager Base Group - Advanced - Localized Dir Delection Delay 中找到了这个设置,并将其从默认的 0 更改为 1200;但是,即使在我部署客户端配置并重新启动 Nodemanager + Yarn,甚至重新启动 VM 之后,日志仍然会在容器完成时被删除。

我正在处理 CDH 5.3.0 Vitrualbox VM 映像,当我启动包时,集群 + 服务似乎工作正常。

编辑:

我看到的日志中唯一的错误是:

角色实例 RoleInstance 失败

2015-08-19 10:59:21,819 [AMRM Callback Handler Thread] ERROR appmaster.SliderAppMaster - Role instance RoleInstance{role='SIMHASH', id='container_1439926335194_0002_01_000003', container=ContainerID=container_1439926335194_0002_01_000003 nodeID=quickstart.cloudera:8041 http =quickstart.cloudera:8042 优先级=1073741825 资源=,createTime=1440007115649,startTime=1440007115674,released=false,roleId=1,host=quickstart.cloudera,hostURL= http://quickstart.cloudera:8042, state=5, placement=null, exitCode=0, command='python ./infra/agent/slider-agent/agent/main.py --label container_1439926335194_0002_01_000003___SIMHASH --zk-quorum localhost:2181 --zk-reg-路径 /registry/users/c4/services/org-apache-slider/simhash1 > /slider-agent.out 2>&1 ; ', 诊断='', 输出=null, 环境=[LANGUAGE="en_US.UTF-8", AGENT_WORK_ROOT="$PWD", HADOOP_USER_NAME="C4", AGENT_LOG_ROOT="", PYTHONPATH="./infra/agent /slider-agent/", LC_ALL="en_US.UTF-8", SLIDER_PASSPHRASE="8R9ZPw3aZ20GFydi3OqvEtwYhh1qzfQBmWv6BjXepg3PCcyS8m", LANG="en_US.UTF-8"]} 失败

0 投票
4 回答
8081 浏览

cloudera-cdh - Cloudera Hue Web UI 默认密码

我最近下载了 Cloudera CDH 5.3,现在我需要访问 HUE Web UI 门户。当我提供属于 Cloudera admin/admin 的默认用户名和密码时,它不起作用。我现在无法登录 HUE 门户。有人可以帮忙吗?

0 投票
2 回答
655 浏览

java - Cloudera 快速入门 VM 非法ArguementException:错误的 FS:hdfs:预期:文件:

我有一个简单的 java 代码可以将文本文件从本地复制到 hdfs。我正在使用 cloudera 的快速入门虚拟机。

运行此代码后出现此错误:

我可能做错了什么?

0 投票
1 回答
592 浏览

java - 由于 NoclassdefinitionFound,HIPI 测试运行失败

我一直在尝试按照cloudera VM (cdh-5.4.2) 上的教程进行操作,但是在尝试运行构建的 jar 来计算像素数时出现异常。

构建本身成功:

但是执行jar会抛出以下错误:

我在同一根 hipi 父项目的示例文件夹中的这个子项目的 build.gradle 如下:

有人可以帮助我缺少什么以及如何使其运行吗?

由于我是 gradle 新手,我无法在 eclipse 下配置 hipi 以便在其他项目中使用,所以我只尝试通过终端运行。任何人都可以帮助我吗?

注意:我的互联网访问受到限制,因此我的系统几乎没有下载权限。

0 投票
1 回答
281 浏览

java - 由于 cloudera quickstart vm 中的纱线容器错误,Hipi 平均像素数程序失败

我是 HIPI/Hadoop 的新手,所以我选择 cloudera quickstart vm (5.4.2)。我正在关注入门教程来做到这一点。在运行时,我发现我在 hib 文件中有文件,如下所示:

但是当我尝试使用 jar 文件执行时,出现以下错误:

资源管理器下的日志文件说:

帮我。我无法找到错误。

我正在使用 Java 1.8、Hadoop 2.6.0-cdh5.4.2、

HADOOP_CLASSPATH:/usr/lib/hadoop/lib HADOOP_YARN_HOME:/usr/lib/hadoop-yarn HADOOP_MAPRED_HOME:/usr/lib/hadoop-mapreduce HADOOP_CONF_DIR:/etc/hadoop/conf

我已经用 wordcount 示例进行了测试,这是成功的。

0 投票
1 回答
1071 浏览

hadoop - 在 cloudera 中运行基本 Hadoop 字数时出错

我对 Cloudera 和 Hadoop 太陌生了。在 Cloudera Quickstart VM 终端中执行以下命令时遇到问题

这些是我在执行上述命令时得到的行

0 投票
1 回答
1043 浏览

vagrant - 是否可以使用 Vagrant 使用 Cloudera-Quickstart VM

是否可以使用 Vagrant 使用 Cloudera 快速入门 VM?如果可能,那么如何配置 Vagrantfile?

0 投票
2 回答
960 浏览

hadoop - 如何在不支持虚拟化的 PC 上安装 Cloudera Hadoop

我喜欢在我的电脑 windows 7 中安装 Cloudera Hadoop。所以我下载了一个 vmware 播放器,但它不起作用,因为我的电脑不支持虚拟化。有什么解决办法吗?

0 投票
1 回答
2961 浏览

hadoop - Hive不能在cloudera中创建角色和显示角色?

一旦我给出命令显示角色,我就会收到错误消息;在蜂巢终端。请帮帮我,我在 hive-site.xml 中添加了一些属性。

我在 cloudera-quickstart-5.4.2.0-vmware 工作。


我正在等待答案。提前致谢

0 投票
1 回答
1064 浏览

hdfs - 写入 HDFS 时 Oozie 作业因 Java 操作而到期

我有一个 Oozie 协调器,每小时运行一个工作流。工作流由两个顺序操作组成:一个 shell 操作和一个 Java 操作。当我运行协调器时,shell 操作似乎成功执行,但是,当需要执行 Java 操作时,Hue 中的作业浏览器总是显示:

当我单击 application_id 时,这是快照: Oozie java 动作失败

这似乎指向views.py 和api.py。当我查看服务器日志时:

Java 操作由两部分组成:REST API 调用和将解析结果写入 HDFS(通过 Hadoop 客户端库)。尽管 Java 操作作业在 Job Browser 上到期/失败,但写入 HDFS 是成功的。这是编写部分 Java 代码的 HDFS 的片段。

当我作为独立运行工作流时,我在 Java 操作部分有 50-50 的成功和到期机会,但在协调器上,所有 Java 操作都将到期。

YARN 日志显示了这一点:

所以看起来在我的Java代码结束时关闭文件系统有问题(我应该保持文件系统打开吗?)。

我正在使用 Cloudera Quickstart CDH 5.4.0 和 Oozie 4.1.0