我正在尝试分析一个猪查询,但到目前为止还没有任何有用的东西。
我正在尝试测量 CPU、磁盘 I/O、RAM 使用情况。
有人可以指导我吗?
到目前为止尝试的事情
Starfish - 适用于 Hadoop 作业但不适用于 Pig - 不支持 pig 查询
Hprof - 适用于 Hadoop 作业,但不适用于 Pig 查询。- 仅为 Hadoop 作业生成配置文件
Hadoop 和 pig 作业都在同一个集群中执行。
谢谢阅读 !!
我正在尝试分析一个猪查询,但到目前为止还没有任何有用的东西。
我正在尝试测量 CPU、磁盘 I/O、RAM 使用情况。
有人可以指导我吗?
到目前为止尝试的事情
Starfish - 适用于 Hadoop 作业但不适用于 Pig - 不支持 pig 查询
Hprof - 适用于 Hadoop 作业,但不适用于 Pig 查询。- 仅为 Hadoop 作业生成配置文件
Hadoop 和 pig 作业都在同一个集群中执行。
谢谢阅读 !!
您可以使用 JXInsight/Opus(免费)获取一些延迟数据,并在执行查询之前标记或标记集群,然后在作业完成后拍摄快照。
http://www.jinspired.com/site/jxinsight-opus-1-0
我们将推出适用于各种大数据平台(包括 Cassandra、Hadoop、Pig 等)的 JXInsight/Opus for X 版本。
如果您需要更多功率和更多仪表(cpu、io、...),您可以随时查看 JXInsight/OpenCore 产品。
您可以在 pig 生成的 MR 作业上使用 hprof 或其他分析工具。见https://cwiki.apache.org/confluence/display/PIG/HowToProfile