4

我想知道是否有 EMR(Elastic MapReduce)的后期处理示例?我想要实现的是在亚马逊的 Hadoop 完成工作后立即向一群人发送电子邮件。

4

2 回答 2

5

您需要配置作业结束通知 URL。

jobEnd.notificationUrl

AWS 将点击此 url,可能带有指示哪个作业已完成的查询变量(作业 ID)。

然后,您可以让服务器上的这个 URL 处理您的电子邮件通知,假设您已经存储了电子邮件和工作 ID 之间的关系。

https://issues.apache.org/jira/browse/HADOOP-1111

于 2013-04-03T17:09:09.000 回答
3

一种更简单的方法是使用Amazon CloudWatch(监控系统)和Amazon Simple Notification Service (SNS)来监控并通知您和其他人您的 EMR 作业的状态。

例如,您可以为集群设置警报以检查何时空闲。一旦工作完成(或失败),它将设置为 1,然后您可以通过电子邮件(或什至 SMS)获得 SNS 通知。您可以针对 JobsFailed 计数和其他指标设置类似的警报。

有关 EMR 相关指标的完整列表,您可以查看EMR 文档

您可以在此处查看有关它的更多信息:http: //docs.aws.amazon.com/ElasticMapReduce/latest/DeveloperGuide/UsingEMR_ViewingMetrics.html

于 2013-04-05T07:48:37.940 回答