目前,我们正在 azure 机器学习中运行推理服务器。我们希望能够向 prometheus 公开现有指标并创建我们自己的自定义指标,所有这些都将在下面描述
公开现有指标:
我想按状态/平均延迟等细分请求数量...我假设 azure 会在某个地方跟踪它,但我在任何地方都看不到它,即使我想公开它以便普罗米修斯可以刮掉它。
公开自定义指标:
我们的推理代码有许多缓慢的步骤,我们希望能够公开有关此代码每个部分的指标,以便我们可以看到应用程序的哪些部分是瓶颈。
目前,我们正在 azure 机器学习中运行推理服务器。我们希望能够向 prometheus 公开现有指标并创建我们自己的自定义指标,所有这些都将在下面描述
公开现有指标:
我想按状态/平均延迟等细分请求数量...我假设 azure 会在某个地方跟踪它,但我在任何地方都看不到它,即使我想公开它以便普罗米修斯可以刮掉它。
公开自定义指标:
我们的推理代码有许多缓慢的步骤,我们希望能够公开有关此代码每个部分的指标,以便我们可以看到应用程序的哪些部分是瓶颈。