问题标签 [cloudera]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
1396 浏览

hadoop - 将 jobtracker 和 tasktracker logging 更改为“Daily Rolling File Appender”

由于使用“每日滚动文件附加器”,我们无法提供 MaxBackupIndex,我想将“滚动文件附加器”用于作业跟踪器和任务跟踪器守护程序日志。我怎样才能做到这一点?以下是我正在使用的 log4j。(我正在使用 hadoop cdh4beta2)

0 投票
7 回答
32726 浏览

hadoop - 修复 HBase 表(过渡中的未分配区域)

我在修复故障表时有点卡住(在 Hbase 0.92.1-cdh4.0.0、Hadoop 2.0.0-cdh4.0.0 上)

有一个未完成的过渡区域:

当我跑步时sudo -u hbase hbase hbck -repair,我得到了这个:

它只是循环。

如果我不这样做-repair,我会得到这个:

我之前跑过-repair几次,很有帮助。但这一次,不再。

好的,所以这表明要进行手动干预来解决这个问题。有人可以指出我如何做到这一点的正确方向吗?食谱、网页、示例,任何东西都会有所帮助。

谢谢,马里奥

0 投票
1 回答
363 浏览

hbase - Cloudera 4 - Hdfs / Hbase - 通过专用网络中的第二个 NIC 进行内部通信

我们使用 Cloudera Manager 在测试集群上设置了 CDH4(hdfs、hbase、hue、mapreduce、oozie 和 zookeeper)。一切正常,除了我们似乎无法弄清楚如何使节点在专用网络中通过 eth1 进行通信,同时仍从外部通过 eth0 访问管理器。关于在哪里配置的任何建议?

感谢您的回复。

0 投票
12 回答
125565 浏览

java - 使用 Eclipse / Maven 构建 Hadoop - 缺少工件 jdk.tools:jdk.tools:jar:1.6

我正在尝试在 eclipse 3.81 的 m2e 插件的 maven 项目中从 cdh4 maven repo导入 cloudera 的org.apache.hadoop:hadoop-client:2.0.0-cdh4.0.0 ,在 win7 上使用 oracle 的 jdk 1.7.0_05

但是,我收到以下错误:

更具体地说,maven 指出缺少以下工件

如何解决这个问题?

0 投票
1 回答
3494 浏览

hadoop - Cloudera manager - hadoop 安装失败

尝试安装 Cloudera Manager。在 hadoop 主机中步骤自动安装失败。

0 投票
1 回答
215 浏览

java - 需要使用hadoop cloudera的demo

我是hadoop的初学者。我了解使用 map reduce 的基本工作流程。我使用 hadoop api 在 eclipse 中编写了一些基本的独立程序。我想进入真正的东西并亲自动手。到目前为止,我已经下载了 cloudera vmdk 并将其安装在 VMWare Fusion 上。

有人可以指出我正确的位置,在那里我可以找到清晰的信息如何继续前进。我想在 2 台或更多机器上使用 hdfs 并编写一些使用这些系统资源进行并行计算的独立应用程序来解决我的任务。互联网上的所有烤箱我刚刚发现了对 map reduce 和许多高级主题的理解,但没有什么特别的。

请引导我到正确的地方,在那里我可以找到教程或视频讲座,以帮助我前进

0 投票
2 回答
11217 浏览

configuration - cdh4 hadoop-hbase PriviledgedActionException as:hdfs (auth:SIMPLE) 原因:java.io.FileNotFoundException

我已经安装了 cloudera cdh4 版本并且我正在尝试在其上运行 mapreduce 作业。我收到以下错误-->

我能够运行 hadoop-mapreduce-examples-2.0.0-cdh4.0.0.jar 中给出的示例程序。但是当我的工作成功提交到 jobtracker 时,我收到了这个错误。看起来它正在尝试再次访问本地文件系统(尽管我已经为分布式缓存中的作业执行设置了所有必需的库,但它仍在尝试访问本地目录)。这个问题与用户权限有关吗?

I) Cloudera:~ # hadoop fs -ls hdfs://<MyClusterIP>:8020/显示 -

II) --- 没有后续结果 ----

相反,我认为我们正在使用新的 APIS ->
fs.defaultFS --> hdfs://Cloudera:8020 我已正确设置

虽然对于“fs.default.name”,我得到了 hadoop 集群 0.20.2(非 cloudera 集群)的条目

我认为 cdh4 默认配置应该在各自的目录中添加这个条目。(如果它的错误)。

我用来运行我的程序的命令 -

hdfs@Cloudera:/home/cloudera/yogesh/lib> java -classpath hbase-tools.jar:hbase.jar:slf4j-log4j12-1.6.1.jar:slf4j-api-1.6.1.jar:protobuf-java-2.4.0a.jar:hadoop-common-2.0.0-cdh4.0.0.jar:hadoop-hdfs-2.0.0-cdh4.0.0.jar:hadoop-mapreduce-client-common-2.0.0-cdh4.0.0.jar:hadoop-mapreduce-client-core-2.0.0-cdh4.0.0.jar:log4j-1.2.16.jar:commons-logging-1.0.4.jar:commons-lang-2.5.jar:commons-lang3-3.1.jar:commons-cli-1.2.jar:commons-configuration-1.6.jar:guava-11.0.2.jar:google-collect-1.0-rc2.jar:google-collect-1.0-rc1.jar:hadoop-auth-2.0.0-cdh4.0.0.jar:hadoop-auth.jar:jackson.jar:avro-1.5.4.jar:hadoop-yarn-common-2.0.0-cdh4.0.0.jar:hadoop-yarn-api-2.0.0-cdh4.0.0.jar:hadoop-yarn-server-common-2.0.0-cdh4.0.0.jar:commons-httpclient-3.0.1.jar:commons-io-1.4.jar:zookeeper-3.3.2.jar:jdom.jar:joda-time-1.5.2.jar com.hbase.xyz.MyClassName

0 投票
2 回答
4110 浏览

hbase - HBase Shell 挂起/冻结

我在 Ubuntu 12.04 上以Pseudo-Distributed 模式安装了 HBase 0.92.1-cdh4.0.1 。
hbase-masterhbase-regionserverzookeeper-server正在这台机器上运行;HDFS 在另一台机器上运行(属性hbase.rootdir 相应设置)。

现在我对“hbase shell”有一个问题:每当我提交一个创建表语句时

外壳挂起(它不返回任何东西;永远等待),我必须用 ctrl+c 杀死它。但是该命令总是被执行,当我在“hbase shell”中提交“list”命令时,该表被列出。也可以通过默认端口 60010 访问 web-ui,并且创建的表列在用户表下。我已经清理了 HDFS 上的 hbase 目录,清理了 zookeeper 日志,更正了 hosts 文件(将 127.0.1.1 更改为 127.0.0.1)。这个问题的原因可能是什么?

0 投票
1 回答
954 浏览

hadoop - Cloudera CDH3安装失败,如何解决?

我正在尝试将 CHD3 安装到 3 节点集群上。我通过 Cloudera Manager 启动安装。所有三个安装都失败。

Cloudera 安装失败后,我在 /var/log/cloudera-scm-agent/cloudera-scm-agent.out 中看到此错误:

显然,在启动时运行的 Python 解释器将“free”、“buffers”或“cached”视为具有 NoneType 并且此错误会导致整个安装回滚。

谁能建议为什么会发生这种情况和/或解决问题的方法?

提前致谢。

0 投票
1 回答
6702 浏览

hadoop - HBase 按值排序

我正在使用 SingleColumnValueFilter、scan、getScanner 并从 hbase 表中检索值。结果值在 Id-vise 行中排序。但我希望结果在价值虎钳中进行排序。

例子:

现在,当我在 Web UI(我自定义)中选择金额时。然后,Result 应该按数量进行排序。