1

我有一张有数千个分区的表。我想将所有分区位置更改为 diff 集群。 例如:
对于表test_table和分区天=2021041600
旧位置:hdfs://cluster1/dir1/dir2/day=2021041600/\<files>
新位置:hdfs://cluster2/dir1/dir2/day=2021041600/\<files>

我可以使用 2 种方法来实现这一点。

  1. 我们可以获取所有分区的列表,并逐个更新每个分区的分区位置。
  2. 我们可以更改表的基本位置并在表上运行 MSCK 修复命令。

我的问题是我们会更好地采取哪种选择?

4

1 回答 1

0

第一种方法将起作用。

第二种方法(MSCK修复):

MSCK REPAIR如果您更改表位置,则将不起作用,因为分区已安装到表位置之外的旧位置。

使用新位置创建表 EXTERNAL、DROP、CREATE,运行 MSCK REPAIR:

alter table test_table  SET TBLPROPERTIES('EXTERNAL'='TRUE');  

drop table test_table;

create table test_table ... location 'hdfs://cluster2/dir1/dir2';

MSCK REPAIR TABLE test_table;
于 2021-04-16T07:59:22.387 回答