scala - distcp：将文件从 hdfs 复制到 s3（如何在 scala 或 java 中使用）

Question

我正在尝试通过以下代码通过 distcp 将大文件从 hdfs 复制到 s3：

val files:Array[String] = new Array[String](2)
files(0) = "/****/in.zip"

val in =  new Path(new URI("/**/in.zip"))
val out = new Path(new URI("***/out.zip"))
var distcpOpt = new DistCpOptions(in,out)
ToolRunner.run(new DistCp(new Configuration(),distcpOpt), files)

我试图做与此链接类似的事情。

以前有人这样做过，请帮忙。

Answer 1

我找到了解决方案：

1-文件数组应该有两个值：第一个用于输入，第二个用于输出。

2- distcpOpt 不需要有任何值（空字符串就足够了）

3-确保来自 s3 路径