3

我使用 SUM-Aggregation 计算我的服务流程的持续时间。执行过程的每一步都将保存在 Elasticsearch 中的调用 ID 下。

这是我监控的：

Duration of Request-Processing for ID #123 (calling service #1)

Duration of Server-Response for ID #123 (calling service #1)

**Complete Duration for ID #123**

Duration of Request-Processing for ID #124 (calling service #1)

Duration of Server-Response for ID #124 (calling service #1)

**Complete duration for ID #124**

筛选：

{
"from" : 0, "size" :0,

    "query" : {
        "filtered" : {
            "query" : { "match_all" : {}},
            "filter" : {
                "term" : { 
                    "callingId" : "123",
                }
            }
        }
    },
    "aggs" : {
        "total_duration" : { "sum" : { "field" : "duration" } },
        "max_duration":{"max": {"field":"duration"}},   
        "min_duration":{"min":{"field":"duration"}}
        }
    }
    }

这将返回该过程的完整持续时间，并告诉我该过程的哪一部分是最快的以及哪一部分是最慢的。

接下来我想通过 serviceId计算所有已完成进程的平均持续时间。在这种情况下，我只关心每个服务的总持续时间，所以我可以比较它们。

如何从我的 total_durations 创建平均值、最小值和最大值？

编辑：我添加了一些示例数据，希望您可以使用它。

呼叫1：

{
"callerId":"U1",
"operation":"Initialize",
"status":"INITIALIZED",
"duration":1,
"serviceId":"1"
}

{
"callerId":"U1",
"operation":"Calculate",
"status":"STARTED",
"duration":1,
"serviceId":"1"
}

{
"callerId":"U1",
"operation":"Finish",
"status":"FINISHED",
"duration":1200,
"serviceId":"1"
}

sum: 1202

呼叫2：

{
"callerId":"U2",
"operation":"Initialize",
"status":"INITIALIZED",
"duration":2,
"serviceId":"1"
}

{
"callerId":"U2",
"operation":"Calculate",
"status":"STARTED",
"duration":1,
"serviceId":"1"
}

{
"callerId":"U2",
"operation":"Finish",
"status":"FINISHED",
"duration":1030,
"serviceId":"1"
}

sum: 1033

服务 ID #1 的所有服务调用的聚合 这是我要计算的：

Max: 1202
Min: 1033
AVG: 1116
4

2 回答 2

3

稍微复杂一点，但在这里（仅在 1.4 中，因为这种类型的聚合）：

{
  "query": {
    "filtered": {
      "query": {
        "match_all": {}
      },
      "filter": {
        "term": {
          "serviceId": 1
        }
      }
    }
  },
  "aggs": {
    "executionTimes": {
      "scripted_metric": {
        "init_script": "_agg['values'] = new java.util.HashMap();",
        "map_script": "if (_agg.values[doc['callerId'].value]==null) {_agg.values[doc['callerId'].value]=doc['duration'].value;} else {_agg.values[doc['callerId'].value].add(doc['duration'].value);}",
        "combine_script":"someHashMap = new java.util.HashMap();for(x in _agg.values.keySet()) {value=_agg.values[x]; sum=0; for(y in value) {sum+=y}; someHashMap.put(x,sum)}; return someHashMap;",
        "reduce_script": "finalArray = []; finalMap = new java.util.HashMap(); for(map in _aggs){for(x in map.keySet()){if(finalMap.containsKey(x)){value=finalMap.get(x);finalMap.put(x,value+map.get(x));} else {finalMap.put(x,map.get(x))}}}; finalAvgValue=0; finalMaxValue=-1; finalMinValue=-1; for(key in finalMap.keySet()){currentValue=finalMap.get(key);finalAvgValue+=currentValue; if(finalMinValue<0){finalMinValue=currentValue} else if(finalMinValue>currentValue){finalMinValue=currentValue}; if(currentValue>finalMaxValue) {finalMaxValue=currentValue}}; finalArray.add(finalMaxValue); finalArray.add(finalMinValue); finalArray.add(finalAvgValue/finalMap.size()); return finalArray",
        "lang": "groovy"
      }
    }
  }
}

另外，我并不是说这是最好的方法，但我只能找到一种。另外，我并不是说解决方案处于最佳状态。可能，它可能会被清理和改进。不过，我想证明这是可能的。但请记住，它在 1.4 中可用。

该方法的基本思想是使用脚本构建一个数据结构，该结构应该包含您需要的信息，根据脚本化的度量聚合在不同的步骤中计算。此外，仅对一个 执行聚合serviceId。如果您想对所有 serviceId 执行此操作，我想您可能需要重新考虑一下脚本中的数据结构。

对于上面的查询和您提供的确切数据，输出是这样的：

{
   "took": 3,
   "timed_out": false,
   "_shards": {
      "total": 5,
      "successful": 5,
      "failed": 0
   },
   "hits": {
      "total": 6,
      "max_score": 0,
      "hits": []
   },
   "aggregations": {
      "executionTimes": {
         "value": [
            1202,
            1033,
            "1117.5"
         ]
      }
   }
}

数组中值的顺序value是 [max, min, avg]，根据reduce_script.

于 2014-11-19T07:55:18.900 回答
2

即将发布的 2.0.0 版本中将有一个名为“ Reducers ”的新功能。Reducers 将允许您计算聚合上的聚合。

相关帖子： https ://github.com/elasticsearch/elasticsearch/issues/8110

于 2014-11-19T15:08:07.860 回答