问题标签 [namenode]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
6 回答
12845 浏览

hadoop - Hadoop名称节点元数据

我对 Hadoop 架构有点困惑。

  1. Hadoop Namenode 中存储了什么样的文件元数据?来自 Hadoop wiki,它说 Namenode 存储整个系统命名空间。上次修改时间、创建时间、文件大小、所有者、权限等信息是否存储在 Namenode 中?

  2. datanode 是否存储任何元数据信息?

  3. Namenode只有一个,元数据数据能超过服务器的限制吗?

  4. 如果用户想从 Hadoop 下载文件,他必须从 Namenode 下载吗?我从网上找到了下面的架构图片,它显示客户端可以直接将数据写入数据节点?这是真的吗? 在此处输入图像描述

谢谢!!!!!!!

0 投票
3 回答
11131 浏览

hadoop - Namenode文件数量限制

有人知道Hdfs的namenode中每个文件占用多少字节吗?我想估计在 32G 内存的单个 namenode 中可以存储多少文件。

0 投票
4 回答
24544 浏览

hadoop - 名称节点启动错误

当我尝试在主节点上启动 hadoop 时,我得到以下输出。并且 namenode 没有启动。

0 投票
2 回答
15972 浏览

hadoop - Hadoop NameNode IP 地址

我正在使用Hadoop MapReduce范例,我需要从DataNode获取NameNode IP 地址,谁能给我一个想法如何做到这一点?

谢谢。

0 投票
2 回答
696 浏览

hadoop - 运行Namenode时出错

当我启动namenode时,我收到以下错误:

log4j.appender.DRFAUDIT 是否有任何密钥

请帮助我

0 投票
2 回答
5301 浏览

hadoop - fs.defaultFS 和 fs.default.name 之间的区别

我知道这两个属性都与名称节点有关。但它们之间的实际区别是什么?

0 投票
1 回答
87 浏览

hadoop - Namenode的元数据存储

namenode 还知道给定文件的所有块所在的数据节点,但是,它不会永久存储块位置,因为此信息是在系统启动时从数据节点重建的。

在这里坚持是什么意思?

0 投票
1 回答
21845 浏览

hadoop - Hadoop Namenode 故障转移过程如何工作?

Hadoop权威指南说 -

每个 Namenode 运行一个轻量级的故障转移控制器进程,其工作是监视其 Namenode 的故障(使用简单的心跳机制)并在 namenode 发生故障时触发故障转移。

为什么一个名称节点可以运行一些东西来检测它自己的故障?

谁给谁发送心跳?

这个过程在哪里运行?

它如何检测名称节点故障?

它通知谁进行过渡?

0 投票
3 回答
207 浏览

hadoop - NameNode 和辅助 Namenode

如果 Namenode 完全失败,辅助 namenode 的作用是什么?

0 投票
2 回答
284 浏览

hadoop - what's the actual ideal NameNode memory size when meet a lot files in HDFS

I will have 200 million files in my HDFS cluster, we know each file will occupy 150 bytes in NameNode memory, plus 3 blocks so there are total 600 bytes in NN. So I set my NN memory having 250GB to well handle 200 Million files. My question is that so big memory size of 250GB, will it cause too much pressure on GC ? Is it feasible that creating 250GB Memory for NN.