0

我正在尝试将数据从一个存储桶移动到 Google Cloud 上同一项目中的另一个存储桶。它具有纯图像和文档,例如 .png、.jpg 和 .pdf 文件。我试了几次,但结果还是一样。

下面是我正在使用的命令, gsutil -m cp -r -n gs://bucket1/folder1/subfolder/* gs://bucket2/folder1/subfolder/ 2>&1 | 三通 ./result.txt

它运行了几个小时,一段时间后屏幕进入挂起状态,我没有看到在谷​​歌控制台上运行任何日志。

我的疑问如下,GCP上是否有任何设置,如果网络流量持续几个小时,它会阻塞流量,类似的东西?桶级有大小上限吗?如果是,我该如何检查?

我是否必须在上述命令中添加任何其他参数?您对完成此任务还有其他建议吗?

4

2 回答 2

0

我建议尝试使用Storage Transfer Service来完成任务。

Storage Transfer Service 是一种产品,可让您:

1. 将数据从其他云存储提供商或您的本地存储移动或备份到 Cloud Storage 存储桶。

> 2.将数据从一个 Cloud Storage 存储桶移动到另一个存储桶,以供不同的用户或应用组使用

3.定期移动数据作为数据处理管道或分析工作流的一部分。

使用控制台创建和管理数据传输

编辑

您可以运行命令perfdiag - 运行性能诊断

perfdiag 命令为给定的 Google Storage 存储桶运行一套诊断测试。

gsutil perfdiag gs://your-bucket

如果可用性不是 100% 和/或检测到 HTTP 错误,则表明存在服务/网络问题

于 2020-02-18T11:56:56.757 回答
0

我已经在实例上安装了“screen”包并启动了复制作业。尽管存在网络波动或控制台挂起,但该作业过去常常在后端运行。尽管这是一个小技巧,但它对完成任务很有帮助。我希望它也可以帮助其他人。注意:我确实复制了文件和文件夹而不移动。

于 2020-05-18T07:20:50.840 回答