问题标签 [hadoop-plugins]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
3 回答
2535 浏览

hadoop - 无法设置 Eclipse 插件,Hadoop Hortonworks 2.0

我得到了 Hortonworks Sandbox 2.0,它运行良好。现在我想尝试从 Eclipse 连接,但我做不到。

  • 这是 Eclipse 上的 Hadoop 位置:
    Map/Reduce master:host:localhost,port:50020
    DFS Master:host:localhost,port:50040

错误是:

对 localhost/127.0.0.1:50040 的调用因连接异常而失败:java.net.ConnectionException:连接被拒绝:没有更多信息。

我认为错误可能是不匹配的 Hadoop 插件,因为我使用的是 Hadoop Eclipse 插件 1.2.0,但我找不到适用于 Hadoop 2.2 的 Eclipse 插件

来自线程How to use java to connect hadoop 2.2.0 server的回答说目前没有适用于 Hadoop 2.2.0 的 Eclipse 插件?有人可以指导我完成这个吗?

0 投票
1 回答
4703 浏览

hadoop - MapReduce Driver 的 addInputPath 出错

我的 MapReduce 驱动程序的 addInputPath 方法出现错误。错误是

这是我的驱动程序代码:

我导入了正确的 org.apache.hadoop.mapred.FileOutputFormat。

我的 WordCountMapper 正确实现了 Mapper。

FileOutputFormat.setOutputPath 工作正常。

为什么 addInputhPaths 会抛出错误?

0 投票
0 回答
1788 浏览

hadoop - 如何在 HDFS hadoop 上存储和处理视频数据

我有一个视频文件。我已经使用 Xuggler 将此视频转换为一组图像帧,现在我必须读取每一帧图像并需要进行一些处理。假设我们有 2000 张这样的图像(我正在使用 Xuggler - 这会将视频转换为图像,然后将图像转换为视频)。现在说在第一个图像中我必须在给定的坐标上绘制一个矩形。一旦图像的所有处理都结束了,所有图像都会被 Xuggler 工具转换为视频。

由于视频文件非常大,例如 5TB 甚至更多。我想在 Hadoop mapreduce 上完成所有图像处理工作。我找到了一个 API HIPI,它专门用于 Hadoop 中的图像处理。

但是 HIPI 不支持添加元数据信息。我需要一些与每个图像相关联的元数据信息,以便在 Mapper 中我可以找出图像 ID,然后根据给定的参考文件处理该图像 ID 注意:我有一个参考文件,其中包含图像编号、位置坐标等信息的图像。因此,在 MapTask 中,当我得到任何特定图像时说图像编号 10,然后我会进行一些图像处理,例如绘制给定坐标的形状等

如果我使用 HIPI,则地图任务包含 ImageHeader 作为 Key 和 FloatImage 作为值。并且在 ImageHeader 中我没有任何信息(甚至没有文件名)。所以我无法将 hdfs 分布式文件与我拥有的参考数据进行比较

我们还有其他更好的方法来做到这一点吗?

0 投票
1 回答
963 浏览

eclipse - 尝试连接到 Hadoop 2.0.0 错误:服务器 ipc 版本 7 无法在 Eclipse 中与客户端版本 3 通信

我需要在 Windows 系统上使用 Eclipse Juno 连接到具有 Hadoop 2.0.0 数据库的 unix 系统。我尝试为旧版本的 Hadoop 添加 Eclipse 插件,但是当我添加 Map-Reduce Location 时,出现以下错误:

服务器 ipc 版本 7 无法与 eclipse 中的客户端版本 3 通信

根据谷歌的一些博客结果,版本不匹配导致了这个问题。

任何人都可以帮忙吗?

请帮助我找到正确的插件或引导我到哪里出错。

除非我添加这个插件,否则我将无法连接到数据库..有什么解决方法吗?

谢谢,希兹

0 投票
1 回答
1980 浏览

scala - InvalidRequestException(为什么:empid 不能被多个关系限制,如果它包含 Equal)

这是关于我在从 Apache Spark 查询 Cassandra 时遇到的问题。

Spark 的正常查询工作正常,没有任何问题,但是当我使用作为关键的条件进行查询时,我得到以下错误。最初我尝试查询复合键列族,它也给出了与下面相同的问题。

“原因:InvalidRequestException(为什么:empid 不能受多个关系限制,如果它包含 Equal)”

列族:

列族内容:

示例 SCALA 代码:

我恳请您让我知道这种情况是否有任何解决方法,因为过去几天我一直在努力克服这个问题。

谢谢

0 投票
1 回答
958 浏览

eclipse - 构建 Hadoop(1.2.1) Eclipse(Kepler 4.3.1) 插件

我尝试为我的 Eclipse Kepler V 4.3.1 为 Hadoop 构建一个 Eclipse 插件 在网络上,我看到了很多有关 JUNO 和一些以前版本的信息,但尝试将这些 jar 复制到我的 eclipse->plugin 目录中没有运气。因此尝试构建我自己的 Eclipse 插件,但即使这样也不适合我。这里有人有为 Kepler 工作的 Hadoop 插件吗?以下是我的其他配置详细信息:Mac OSX java 版本“1.6.0_65”

0 投票
2 回答
30858 浏览

hadoop - 导入 org.apache.hadoop.mapreduce 无法解析

我正在尝试执行以下代码

但我发现一些错误“import org.apache.hadoop.mapreduce无法解决”我已经添加了 Hadoop Jar 文件“ http://www.java2s.com/Code/Jar/h/Downloadhadoop0210eclipsepluginjar.htm ”。

Hadoop版本-Hadoop 2.0.0-cdh4.2.0

Eclipse-juno Service Release 2 谁能帮我解决这个问题。

0 投票
3 回答
923 浏览

eclipse - Eclipse 的 hadoop 插件没有出现在 ubuntu 上

我正在尝试在 Ubuntu 上设置 hadoop 来开发一个项目。我正在使用 Ubuntu 12、hadoop 0.18、java6 和 Eclipse。Ubuntu 操作系统在虚拟机 (VMware) 上运行。

我按照本指南安装了 hadoop:http: //www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/ 一切正常。

然后我看到 Hadoop 为 Eclipse 提供了一个插件。因此,通过遵循本指南: http: //v-lad.org/Tutorials/Hadoop/13.5%20-%20copy%20hadoop%20plugin.html(即使它适用于 Windows)我从“ hadoop/contrib/ ”复制了插件eclipse-plugin '到' /usr/share/eclipse/plugins '。

这就是问题所在:当我启动 Eclipse(以 root 身份)时,看起来插件没有加载!事实上,在 Eclipse 的“打开透视图”窗口中,语音“mapReduce”并未出现(如指南所述)。

谁能帮我?

谢谢

0 投票
1 回答
120 浏览

hadoop - 我在哪里可以获得 Glusterfs-hadoop 插件 jar/rpm 文件?

我在哪里可以获得 Glusterfs-hadoop 插件 jar/rpm 文件,用于 Hadoop-1.2.1?我无法在 github.com/gluster/glusterfs-hadoop 编译源代码。编译中断。

任何人都可以建议直接下载 jar 或 rpm 吗?

谢谢

0 投票
1 回答
671 浏览

java - 使用 hadoop mapreduce 进行 X12 解析

我必须使用 hadoop mapreduce 代码解析 x12 文件。有人可以建议我如何做到这一点吗?解析后的输出应该可以被其他一些 hadoop 工具使用,比如 hive

谢谢, 罗克托