1

当我使用胶水 python shell 而不是胶水火花时,1 dpu 设置会改变吗?我最近在 AWS Glue 中看到了一篇文章 Maximum number of concurrent tasks in 1 DPU,我看到他们在谈论胶水火花,但不是来自 awsglue python shell,这就是我有这个疑问的原因。

4

1 回答 1

2

根据此文档,可以为 Python shell 类型的 AWS Glue 作业分配 1 DPU 或 0.0625 DPU。默认情况下,AWS Glue 为每个 Python shell 作业分配 0.0625 DPU。

您需要支付每 DPU 小时 0.44 美元的费用,增量为 1 秒,四舍五入到最接近的秒数,每个 Python shell 类型的作业的最短持续时间为 1 分钟。

单个 DPU 提供的处理能力由 4 个 vCPU 的计算和 16 GB 的内存组成

最多可以提供 1 个 DPU,因为它不需要很多资源,因为不涉及分布式处理。您尝试提供超过 1 个 DPU 并会遇到如下所示的错误:

在此处输入图像描述

于 2020-08-12T15:49:19.007 回答