问题标签 [s3-batch]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
195 浏览

amazon-web-services - 如何将对象数量失败阈值触发器以停止 S3 批量操作作业设置为 1000 以外的自定义值?

我从这个文档中读到“在处理了前 1000 个对象后,S3 批处理操作会检查并监控整体故障率,如果故障率超过 50%,将停止作业。” https://aws.amazon.com/blogs/aws/new-amazon-s3-batch-operations/

我如何控制这个值,比如 100?50?或者任何适合我的业务案例的性质的自定义值?

0 投票
2 回答
557 浏览

amazon-web-services - 从 Java 代码创建 S3 批处理作业时出现 400 错误请求错误

根据文档,我正在尝试从 Java 代码创建批处理作业。我可以从具有相同角色和 lambda arn 的控制台创建作业,但是从代码中,我收到 400 Bad Request。另外,根据此文档,我没有看到任何错误消息

这是我的代码片段 -

Role 拥有完整的 IAM 和 s3 批量操作权限,lambda 也拥有 s3 的访问权限。还为批处理操作定义了信任策略。

这是我的错误日志-

0 投票
0 回答
34 浏览

amazon-web-services - 复制 s3 对象的 S3 批处理操作很慢

我正在尝试使用 S3 批处理操作复制对象 b/w s3 存储桶。两个存储桶都在同一区域但不同的帐户。我关注了这个博客并设置了库存/角色/政策。

S3批量操作博客

我发现 S3 批处理操作非常缓慢。以下是我的源存储桶统计信息:

在 14 小时内,它只复制了 20% 的对象

非常感谢任何帮助。

0 投票
1 回答
59 浏览

amazon-web-services - S3 批处理操作 - 可以避免 lambda 调用之间的长时间延迟吗?

我正在使用 S3 批处理操作来调用 lambda 以将一堆数据加载到弹性搜索中。保留并发在 lambda 上设置为 1,同时试验适量的并发。

奇怪的是,在测试时,我看到 S3 连续调用了几次 lambda,然后在 5 分钟内不再进行任何调用。例如:

Lambda 调用

任何想法如何避免这种延迟?帐户上没有发生其他批处理操作,优先级设置为“10”。也许它与保留的并发值有关?虽然根据文档

作业运行时,Amazon S3 会启动多个函数实例以并行处理 Amazon S3 对象,直至达到函数的并发限制。Amazon S3 限制实例的初始增加,以避免小型作业的额外成本。

谢谢

0 投票
0 回答
33 浏览

amazon-s3 - 如何使用 node js sdk 创建 S3 批处理操作?

我正在尝试对删除对象标记的 s3 对象创建批处理操作,但我给了我不允许针对此资源的方法这是我的无服务器 lambda 函数代码(打字稿)

向邮递员索取正文

回复 回复