我使用LogAggregationFileController
(https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-common/apidocs/org/apache/hadoop/yarn/logaggregation/filecontroller/ifile/LogAggregationIndexedFileController.html)的apache hadoop-3.2.2
。
我考虑是否可以向 YARN 询问日志聚合状态?我的意思是类似的东西?
正在进行吗?完成了吗?背景是关于等待日志聚合完成并获取它们。流程如下:
- 执行纱线应用程序。
- 等待
FINISHED
状态 - 等待日志聚合完成
- 收集汇总日志
- 解析收集的日志
我不知道是否有可能可靠地实现第 3 步。使用 hadoop 客户端库。有人知道吗?