2

我在学校的数据库课上，我的教授让我们使用 hadoop v3.2.1。在按照 youtube 教程在 Windows 上安装时，我被困在格式化名称节点部分。这就是 cmd 中出现的内容：

2020-03-15 15:38:05,819 INFO util.GSet: Computing capacity for map NameNodeRetryCache
2020-03-15 15:38:05,819 INFO util.GSet: VM type       = 64-bit
2020-03-15 15:38:05,820 INFO util.GSet: 0.029999999329447746% max memory 889 MB = 273.1 KB
2020-03-15 15:38:05,820 INFO util.GSet: capacity      = 2^15 = 32768 entries
2020-03-15 15:38:05,883 INFO namenode.FSImage: Allocated new BlockPoolId: BP-381120843-10.0.0.230-1584301085876
2020-03-15 15:38:05,884 ERROR namenode.NameNode: Failed to start namenode.
java.lang.UnsupportedOperationException
        at java.nio.file.Files.setPosixFilePermissions(Files.java:2044)
        at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.clearDirectory(Storage.java:452)
        at org.apache.hadoop.hdfs.server.namenode.NNStorage.format(NNStorage.java:591)
        at org.apache.hadoop.hdfs.server.namenode.NNStorage.format(NNStorage.java:613)
        at org.apache.hadoop.hdfs.server.namenode.FSImage.format(FSImage.java:188)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.format(NameNode.java:1206)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1649)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1759)
2020-03-15 15:38:05,887 INFO util.ExitUtil: Exiting with status 1: java.lang.UnsupportedOperationException
2020-03-15 15:38:05,889 INFO namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at DrStrange/10.0.0.230
************************************************************/

这是我的属性：

核心站点.xml：

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

mapred-site.xml

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
      <value>yarn</value>
  </property>
</configuration>

hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>C:\hadoop-3.2.1\data\namenode</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>C:\hadoop-3.2.1\data\datanode</value>
  </property>
</configuration>

纱线站点.xml：

<configuration>
<!-- Site specific YARN configuration properties -->
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
  <property>
    <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
    <value>org.apache.hadoop.mapred.ShuffleHandler</value>
  </property>
</configuration>

我一直在关注这个教程： 如何在 Windows 上安装 Hadoop，直到大约一半时我意识到它太旧了，然后切换到这个： 如何在 Windows10 中安装 Hadoop 3.2.0

另外，我不知道这是否与我当前的问题有关，所以我会这么说。当我跳到下一步并键入 start-all 时，资源管理器和节点管理器都会出错。我想我会把它全部塞进一个问题中。

4

2 回答 2

1

众所周知，hadoop 3.2.1 不能在 Windows 10 上正常工作。我安装了 3.2.0，现在正在取得进展。

于 2020-03-15T20:51:53.150 回答
0

以下错误是Hadoop 3.2.1中的错误。

这个问题将在下一个版本中解决。目前，您可以使用以下步骤临时修复它：

  1. hadoop-hdfs-3.2.1.jar从以下链接下载文件。
  2. 将文件名重命名hadoop-hdfs-3.2.1.jar为hadoop-hdfs-3.2.1.bakin文件夹%HADOOP_HOME%\share\hadoop\hdfs
  3. 复制下载hadoop-hdfs-3.2.1.jar到文件夹%HADOOP_HOME%\share\hadoop\hdfs

参考

于 2020-04-17T23:17:18.263 回答