问题标签 [jmx-exporter]

如何使用 JMX 导出器将 JMX 指标从 Kafka 消费者推送到 prometheus，而无需在 kafka 服务器端进行任何更改

我已经使用 prometheus 几天了，开始我决定在 grafana 中复制一个小型 Java 应用程序的 jconsole 视图可能是一个好的开始。不知何故，jconsole 和 grafana 中的 CPU 使用率看起来根本不一样。我使用 jmx 导出器来导出 jvm 指标。https://github.com/prometheus/jmx_exporter

我irate(process_cpu_seconds_total[1m]) * 100在 Grafana 中使用。我只有一个进程，所以我不需要任何过滤。我想知道查询是否错误或 jconsole 正在做其他无法使用process_cpu_seconds_total.

此致

我已将 jmx_exporter 添加到 tomcat 并使用来自以下位置的示例配置文件：https ://github.com/prometheus/jmx_exporter/blob/master/example_configs/tomcat.yml ，但每次 prometheus 时我都会在 catalina.out 中遇到很多错误检索指标：

感谢帮助。

我正在尝试将火花与普罗米修斯集成。我们有 spark 2 和 spark 3。对于 spark 2，我知道我可以运行jmx_exporter。Spark 3 有一个新的内置 PrometheusServlet，非常棒。我们使用 YARN 而不是 k8s 在 prem 上运行 spark。

我的问题是如何动态发现普罗米修斯抓取目标。据我了解，没有可以指向的静态单一中央 Spark 服务器，而是每个应用程序都打包到一个纱线容器中并有自己的指标。除非有办法聚合这些指标（例如在 spark 历史服务器中）或为每个作业提供静态可预测地址？

当我提交一个火花流式长时间运行的应用程序时，我希望它的指标能够开箱即用地显示在 Prometheus 中。我知道新的 PrometheusServlet 可以使用注释对 k8s 进行自动发现，我想为 yarn 实现类似的功能。

到目前为止我发现了什么：

• 我可以让 prometheus 抓取 pushgateway，并在运行 spark-submit 时让我的应用程序在那里发送指标。我找到了一个可以做到这一点的定制水槽。然而 pushgateway 引入了它自己的问题，所以希望避免它。
• 使用 Prometheus文件服务发现机制在那里添加目标。但是，我如何自动执行此操作，而无需每次提交新作业时手动编辑 json 文件？我发现 prometheus 没有一个 API 来添加目标，并且在我运行 spark-submit 时编写一个可以远程更改 json 文件的作业感觉有点 hacky。

欢迎任何关于优雅解决方案的建议，谢谢！

所以我正在做一个项目，我需要建立一个 Grafan 仪表板，我发现了一些，但仪表板（JMX 概述 3457）我感兴趣的调用如下

问题是指标“jvm_memory_bytes_used”不存在，以“jvm_”开头的指标都没有回来。如果它们以“jmx_”或“java_lang”开头，则返回它们。我在 Github 上找到了它，

我意识到“jvm_”指标是计算出来的，但我不确定在哪里说“请提供 'jvm_' 指标”。我无法使用 javaagent 启动。我只能使用“jmx_prometheus_httpserver”，因为它是我无法控制的嵌入式码头服务器；除了将 JMX 参数添加到 shell 脚本启动选项的开头之外。这个 Github 项目允许我调用 jmxUrl 并获取指标，但由于某种原因指标不足。

当然，在其他项目中，我使用 javaagent 并显示所有指标。只有在使用“jmx_prometheus_httpserver”时，它们才会出现。

我在独立模式下这样称呼它：

我称它为用 jmxUrl 配置的：

但同样的结果没有“jvm_”指标。带有基本配置文件：

任何帮助，将不胜感激。

我编写了一个使用 maven 编译并使用 spark-submit 运行它的 Spark 应用程序。我想监控我的应用程序并收集指标。因此，我使用了 Prometheus 容器，但我正在努力向它公开一个简单的指标。我试图按照这里的答案。但我不明白我应该如何处理 spark.yml 文件。

• 我有一个计算一些东西的 Prometheus 客户端。
• 我在 spark/conf/metrics.properties 中取消注释 *.sink.jmx.class=org.apache.spark.metrics.sink.JmxSink
• 我将 JMX Prometheus Javaagent 添加到我的 pom.xml

这是我的 prometheus.yml：

当我查看 http://localhost:9090/targets 中的目标时，我可以看到 Prometheus 目标已启动而 Spark 已关闭

我想为我的 Spark 应用程序添加指标，我使用 JMX-exporter 将指标公开给 Prometheus。作为第一步，我希望看到 Prometheus 成功连接到 JMX-exporter 并抓取一些现有的 spark 指标。我按照这个答案，我执行以下命令：

我在这里找到了一个 spark.yml 文件

当我访问 http://localhost:8888/metrics 时，我看到了很多指标，这是其中的一部分：

我的 prometheus.yml 包含以下内容：

当我在 localhost:9090/targets 访问 Prometheus UI 时，我可以看到 prometheus 目标已启动，而 spark_streaming_app 已关闭。在我看来，指标成功暴露并显示在 localhost:8888 但普罗米修斯未能抓取它们。

知道我做错了什么吗？

[编辑]
我有一个容器化的 Prometheus，我运行 Spark 应用程序，它通过 JMX-exporter 收集 Prometheus 计数器。在我的 java 代码中，我按如下方式公开计数器：

我取消注释*.sink.jmx.class=org.apache.spark.metrics.sink.JmxSink
我将此spark.yml 文件用于 jmx_prometheus_javaagent-0.10。

我使用以下命令运行了我的 spark 应用程序：

当我进入 Prometheus UI (localhost:9090/target) 时，我看到 Prometheus Spark_app 目标状态为“UP”，但我在 Prometheus UI 中既没有看到 Spark 指标，也没有看到“execution_counter”指标。

我在这里想念什么？

在官方 git 存储库（https://github.com/prometheus/jmx_exporter）中，我看到我需要使用此命令“java -javaagent:./jmx_prometheus_javaagent-0.16.1.jar=8080:config.yaml -jar yourJar.罐子”。我在我的 Eclipse 中运行我的 Spring Boot 应用程序，而没有以 jar 格式编译。

那么如何在不在 jar 文件中编译我的 spring 应用程序的情况下从 jmx 导出器获取指标。任何人都可以帮我解决这个问题。

我能够jmx_prmometheus_javaagent-0.16.1使用以下 JVM 参数对我的 JVM 进程进行检测：

以及以下基本配置：

这会产生预期的指标：

我还使用以下（相关部分）配置运行 Grafana 代理（在 Docker 容器中）：

问题：我在 Grafana Cloud 仪表板中看不到 JMX 指标。我可以看到作业changeme和代理自己的指标，但看不到 JMX 的指标。

非常感谢任何帮助。