1

我在 Compute Engine 上运行 gsutil cp 以将 1.5TB 的文件(每个 2-150MB)从 S3 传输到 GCS。我发现由于多次“可恢复的上传尝试失败而没有进展。您可以稍后再次尝试此上传。” (ABORT_CUR_PROCESS) 错误。.gsutil 目录开始填充失败的传输。这不会始终如一地发生,尽管它经常发生在第一次传输开始时。一段时间后 gsutil 中止。

我正在使用的命令行是:

gsutil cp -c -L ~/S3.log -R s3://<bucket>/<folder> gs://<bucket>/ > /dev/null 2>&1 &

我最初尝试使用“-m”,但是看到错误消息,然后我尝试在没有“-m”的情况下运行它。我还尝试在不同文件夹之间运行两次并行传输,记录到不同的日志文件。

我正在使用 f1-micro,这可能不够用,但我想在尝试设置新实例之前确认这一点。CPU 使用率约为 50%,交换文件大小为 0k,因此在我看来问题不是 CPU 或内存资源不足。网络流量大约 1MBytes/s 进出,这出乎意料的慢,但据我所知,所有 Compute Engine 实例的可用带宽都是相同的。顺便提一下,CE 和 CS 都在美国中部地区,但 S3 存储桶在爱尔兰。

您可以分享任何见解吗?

4

0 回答 0