问题标签 [webhdfs]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
284 浏览

node.js - 如何从 node.js 中删除 hdfs 文件

我在 hdfs 中有以下文件

我在 node.js 中写了一个进程,我需要删除这个文件。我使用 api webhdfs。

我在这个程序中使用 createReadStream 和 createWriteStream。但我不知道如何从 node.js 中删除这个文件

我在哪里可以阅读有关此问题的信息(webhdfs)

0 投票
1 回答
98 浏览

hadoop - 带有kerberose的Hadoop文件系统

我是hadoop文件系统的新手。我在 google 上没有找到任何与 Hadoop FileSystem 相关的有用链接。

我想在使用 Hadoop 文件系统时使用 Kerberose 进行身份验证。

示例代码:

如何使用上述代码实现 kerberos 身份验证?如何设置原则和 keytab 值?

0 投票
1 回答
1739 浏览

database - vertica 将 unix 纪元复制到 TIMESTAMPTZ

我想将数据从 HDFS 加载到 vertica,但数据中的 time_stamp 值是 Unix 纪元格式,我想将它作为 Vertica 中的 TIMESTAMPTZ 加载到 vertica。

在这种情况下,不知道如何动态使用强制转换功能。任何人都可以帮我解决这个问题吗?

我想将铸造添加到以下内容中

或者有没有其他/更好的方法来做到这一点?

0 投票
1 回答
465 浏览

hadoop - 如何通过 WebHDFS 检查 HDFS SafeMode 状态?

是否有任何 RestAPI 可用于检查 HDFS 的安全模式状态?当前使用以下命令获取状态?

谢谢

0 投票
1 回答
12097 浏览

hadoop - WebHDFS 与 HttpFS

WebHDFS REST APIHttpFS 有什么区别?

如果我理解正确:

  • HttpFS 是一个独立的服务,它在 HDFS 之上公开了一个 REST API
  • WebHDFS 是 HDFS 内置的 REST API。它不需要任何进一步的安装

我对么?

什么时候建议使用其中一种而不是另一种?

0 投票
1 回答
1604 浏览

spring - Spring 对 WebHDFS 的支持

是否有对 wedhdfs 的 Spring 支持?我在谷歌上没有找到任何有用的链接。

我想通过 webhdfs 使用普通身份验证和 kerberos 身份验证连接到 hadoop。春天支持这个吗?

任何有用的链接都会有所帮助。

谢谢

0 投票
1 回答
2657 浏览

javascript - 通过 node.js 和 hdfs 模块上传文件到 HDFS

我正在尝试使用 node.js 将文件上传到 HDFS。我正在使用hdfs 模块,但最终在我的 HDFS 上的文件是空白的(stupidfile.txt 不是)

控制台输出

更新 在标准输出的日志和我添加 console.log() 的源代码下方;

返回:

运行 webhdfs 测试时,其中 3 个失败:

1) WebHDFS 应该打开并读取一个文件流:

2) WebHDFS 应该打开并读取一个文件:

3) WebHDFS 应该改变文件所有者:

0 投票
2 回答
290 浏览

hdfs - 使用 Sqoop 将数据加载到 HDFS

我正在寻找将数据移动到 HDFS 系统上的方法,想知道 Apache Sqoop 是否可用于从外部 REST 服务中提取/提取数据?

0 投票
0 回答
716 浏览

jquery - WebHDFS 为 jQuery 返回空响应,但不在 curl 中

启用 WebHDFS 后,可以通过 curl 命令访问,但是通过 ajax 发出相同的请求时,会给出空响应。

例如,“NOTICE.txt”是添加到 HDFS 的文件,“new”是在 HDFS 根位置创建的新目录。

对于 ajax 我都尝试了:-

(和)

curl 命令有效,而 ajax 收到状态码为 200 的空响应。当尝试通过 POSTMAN 等休息客户端访问相同的 url 时,它有效!那么,为什么ajax调用不起作用?通过javascript ajax调用webHDFS rest api时我们应该传递任何额外的参数吗?

卷曲的结果:

HTTP/1.1 200 OK 过期时间:星期四,1970 年 1 月 1 日 00:00:00 GMT 设置 Cookie:hadoop.auth="u=hadoop&p=hadoop&t=simple&e=1412285804171&s=EmNooXqRZRuQLsMoz3AXP83+7zg=";Path=/ Content-类型:application/json 传输编码:chunked 服务器:Jetty(6.1.26)

{"FileStatus":{"accessTime":1412246288609,"blockSize":67108864,"group":"supergroup","length":101,"modificationTime":1412246288609,"owner":"vivek","pathSuffix": "","permission":"644","re​​plication":1,"type":"FILE"}}

但是ajax显示: 在此处输入图像描述

请求和响应的标头: 在此处输入图像描述

0 投票
1 回答
8575 浏览

java - 如何将 UserGroupInformation 与 Kerberos WebHDFS 一起使用

以下是非 hadoop 系统上的客户端代码,用于在受保护的远程 HDFS 上执行操作。

我能够执行这些操作,但未从 krb5.conf 读取票证配置值。conf 文件中提到的票证生命周期是 1m,但代码会生成一个生命周期为 1d 的票证。而且票证也不会在配置的票证缓存中生成。

请帮助配置,以便代码从 krb5.conf 文件中读取并在配置的路径中生成票证。

跟随控制台 o/p