1

当我将部分大小设置为 5MB 时,我正在尝试使用 AWS 上传文件,代码工作正常,但是当我尝试将部分大小更改为 1MB 时,它给了我一个例外:代码是

            string strusername = "user1";       
            strlocalpath = "C:\\file1.zip";    
            string BUCKET_NAME = "bucket1";
            string filename = "file1.zip"
            string keypath = strusername + "/" + filename;
            string keyName = "123";
            string filePath = strlocalpath;
            // List to store upload part responses.
            List<UploadPartResponse> uploadResponses = new List<UploadPartResponse>();

            // 1. Initialize.
            InitiateMultipartUploadRequest initRequest =
                new InitiateMultipartUploadRequest()
                .WithBucketName(BUCKET_NAME)
                .WithKey(keyName);

            InitiateMultipartUploadResponse initResponse =
                s3Client.InitiateMultipartUpload(initRequest);

            // 2. Upload Parts.
            long contentLength = new FileInfo(filePath).Length;
            //Set Part size 
            long partSize = 1*1024*1024; // 5 MB

            try
            {
                long filePosition = 0;
                for (int i = 1; filePosition < contentLength; i++)
                {

                    if (filePosition + partSize > contentLength)
                    {
                        partSize = contentLength - filePosition;
                    }
                    // Create request to upload a part.
                    UploadPartRequest uploadRequest = new UploadPartRequest()
                        .WithBucketName(BUCKET_NAME)
                        .WithKey(keyName)
                        .WithUploadId(initResponse.UploadId)
                        .WithPartNumber(i)
                        .WithPartSize(partSize)
                        .WithFilePosition(filePosition)
                        .WithFilePath(filePath)
                        .WithTimeout(60*60*60);

                    // Upload part and add response to our list.
                    uploadResponses.Add(s3Client.UploadPart(uploadRequest));

                    filePosition += partSize;



                    Console.WriteLine("\nTotal uploaded size = " + filePosition.ToString());
                }

                // Step 3: complete.
                CompleteMultipartUploadRequest compRequest =
                    new CompleteMultipartUploadRequest()
                    .WithBucketName(BUCKET_NAME)
                    .WithKey(keyName)
                    .WithUploadId(initResponse.UploadId)
                    .WithPartETags(uploadResponses);

                CompleteMultipartUploadResponse completeUploadResponse =
                    s3Client.CompleteMultipartUpload(compRequest);

            }
            catch (Exception exception)
            {
                Console.WriteLine("Exception occurred: {0}", exception.Message);
                s3Client.AbortMultipartUpload(new AbortMultipartUploadRequest()
                    .WithBucketName(BUCKET_NAME)
                    .WithKey(keyName)
                    .WithUploadId(initResponse.UploadId));
            }

例外是:

<Error>
<Code>EntityTooSmall</Code>
<Message>Your proposed upload is smaller than the minimum allowed size</Message>   
<ETag>d9c00192bcf6bf7412814a8fe0422b0c</ETag>
<MinSizeAllowed>5242880</MinSizeAllowed>
<ProposedSize>1048576</ProposedSize>
<RequestId>PBG04E031C012F34</RequestId>
<HostId>VEjvpkjuk89yS4xW6Bl/+NPpb3yxvbbe7ijjPmTrlXc7hnjj89kjkm</HostId> 
<PartNumber>1</PartNumber></Error>

我想以 1 MB 或 2 MB 的块上传文件,可以这样做吗?

谢谢

4

3 回答 3

2

看起来你的尺寸错了。

S3 文档: 上传部分

每个部分的大小必须至少为 5 MB,最后一部分除外。分段上传的最后一部分没有大小限制。

所以不,你不能指定做小于 5MB 的部分。当做多部分时,它会自动允许最后一部分,假设最后一部分不是第一个/唯一的部分,小于 5MB。


Glacier 文档: 亚马逊的 Initiate MultiPart Upload 文档指出:

启动分段上传时,以字节数指定分段大小。部分大小必须是兆字节 (1024 KB) 乘以 2 的幂,例如,1048576 (1 MB)、2097152 (2 MB)、4194304 (4 MB)、8388608 (8 MB) 等等。允许的最小部分大小为 1 MB,最大为 4 GB。

您的代码来自上面long partSize = 1*1024*102410485761 MB不是您的评论所述的 5MB。

并注意来自同一链接的未来参考或相同问题:

您使用此上传 ID 上传的每个部分(最后一个除外)都必须具有相同的大小。最后一个可以是相同大小或更小。例如,假设您要上传一个 16.2 MB 的文件。如果您以 4 MB 的部分大小启动分段上传,您将上传四个部分,每个部分 4 MB 和一个 0.2 MB 的部分。

于 2013-10-28T13:14:30.497 回答
2

S3 上传的最小部分大小为 5 MB。

http://docs.aws.amazon.com/AmazonS3/latest/dev/qfacts.html

显然,最后一部分通常会更小,这很好。

“最后一部分”可以更小这一事实的副作用是,例如,如果您有一个 500 KB 的文件并将其作为分段上传发送,那么“第一部分”也是“最后一部分”并且这仍然有效,因为它满足“最后一部分”可以小于 5MB 的规则,但是您仍然必须明确使用不小于 5MB 的部分大小。

我在测试默认为 64MB 的多部分上传时发现了这一点。它仍然适用于较小的文件,这些文件作为小于 5MB 的单个“部分”进行多部分上传。

于 2013-10-28T20:03:03.123 回答
0

有一个简单的规则:如果您的文件小于 5Mb,则将其分段上传。

于 2017-07-17T01:33:52.963 回答