hadoop - 每个 Mapper 执行的任务

Question

我有一个有多个连接的 sql。

2017-12-28 05:15:53,140 Map 1: 15/15    Map 6: 9/9  Map 7: 29/29    Map 8: 198(+2)/200  Map 9: 1/1  Reducer 2: 1/1  Reducer 3: 0(+1)/1  Reducer 4: 0(+3)/3  Reducer 5: 0(+11)/11

以上是最近几个小时运行的日志中的行。如何检查 map 8 正在做什么以及为什么 2 个映射器需要这么长时间

map 8: 198(+2)/200

关于每个映射器在 tez 中所做的任何想法都会有所帮助。

Answer 1

我建议您查看 DAG 图形视图/顶点计数器并进行分析。您将获得一些关于为什么顶点需要这么长时间的见解。