36

如何使用Elasticsearch搜索给定字段的所有唯一值?

我有这样的查询select full_name from authors,所以我可以在表单上向用户显示列表。

4

5 回答 5

19

您可以在“full_name”字段中创建术语方面。但是为了正确地做到这一点,您需要确保在索引时没有对其进行标记,否则构面中的每个条目都将是作为字段内容一部分的不同术语。您很可能需要在映射中将其配置为“not_analyzed”。如果您也在搜索它并且仍想对其进行标记,则可以使用multi field以两种不同的方式对其进行索引。

您还需要考虑到,根据作为 full_name 字段一部分的唯一术语的数量,此操作可能很昂贵并且需要相当多的内存。

于 2013-01-23T12:04:26.157 回答
15

对于 Elasticsearch 1.0 及更高版本,您可以利用terms aggregation它来执行此操作,

查询 DSL:

{
  "aggs": {
    "NAME": {
      "terms": {
        "field": "",
        "size": 10
      }
    }
  }
}

一个真实的例子:

{
  "aggs": {
    "full_name": {
      "terms": {
        "field": "authors",
        "size": 0
      }
    }
  }
}

然后您可以获得authors字段的所有唯一值。size=0 表示不限制术语的数量(这要求 es 为 1.1.0 或更高版本)。

回复:

{
    ...

    "aggregations" : {
        "full_name" : {
            "buckets" : [
                {
                    "key" : "Ken",
                    "doc_count" : 10
                },
                {
                    "key" : "Jim Gray",
                    "doc_count" : 10
                },
            ]
        }
    }
}

请参阅Elasticsearch 术语聚合

于 2014-10-30T07:28:21.393 回答
5

直觉: 用 SQL 的说法:

Select distinct full_name from authors;

相当于

Select full_name from authors group by full_name;

因此,我们可以使用 ElasticSearch 中的分组/聚合语法来查找不同的条目。

假设以下是存储在弹性搜索中的结构:

[{
    "author": "Brian Kernighan"
  },
  {
    "author": "Charles Dickens"
  }]

什么不起作用: 简单的聚合

{
  "aggs": {
    "full_name": {
      "terms": {
        "field": "author"
      }
    }
  }
}

我收到以下错误:

{
  "error": {
    "root_cause": [
      {
        "reason": "Fielddata is disabled on text fields by default...",
        "type": "illegal_argument_exception"
      }
    ]
  }
}

什么像魅力:在字段中 附加.keyword

{
  "aggs": {
    "full_name": {
      "terms": {
        "field": "author.keyword"
      }
    }
  }
}

样本输出可能是:

{
  "aggregations": {
    "full_name": {
      "buckets": [
        {
          "doc_count": 372,
          "key": "Charles Dickens"
        },
        {
          "doc_count": 283,
          "key": "Brian Kernighan"
        }
      ],
      "doc_count": 1000
    }
  }
}

奖励提示:

让我们假设有问题的字段嵌套如下:

[{
    "authors": [{
        "details": [{
            "name": "Brian Kernighan"
          }]
      }]
  },
  {
    "authors": [{
        "details": [{
            "name": "Charles Dickens"
          }]
      }]
  }
]

现在正确的查询变为:

{
  "aggregations": {
    "full_name": {
      "aggregations": {
        "author_details": {
          "terms": {
            "field": "authors.details.name"
          }
        }
      },
      "nested": {
        "path": "authors.details"
      }
    }
  },
  "size": 0
}
于 2018-02-28T13:12:05.133 回答
5

为 Elasticsearch 5.2.2 工作

curl -XGET  http://localhost:9200/articles/_search?pretty -d '
{
    "aggs" : {
        "whatever" : {
            "terms" : { "field" : "yourfield", "size":10000 }
        }
    },
    "size" : 0
}'

"size":10000方法获得(最多)10000 个唯一值。如果没有这个,如果您有超过 10 个唯一值,则仅返回 10 个值。

结果"size":0意味着"hits"不包含任何文档。默认情况下,返回 10 个文档,我们不需要。


参考:桶词聚合

另请注意,根据此页面,在 Elasticsearch 1.0 中,构面已被聚合取代,这是构面的超集。

于 2017-12-01T22:31:04.617 回答
4

现有答案在 Elasticsearch 5.X 中对我不起作用,原因如下:

解决方案 1:使用Scroll API。它通过保持搜索上下文并发出多个请求来工作,每次都返回后续批次的结果。如果您使用的是 Python,则 elasticsearch 模块具有scan()帮助函数来为您处理滚动并返回所有结果。

解决方案 2:使用Search After API。它类似于 Scroll,但提供了一个实时光标而不是保留搜索上下文。因此,它对于实时请求更有效。

于 2017-02-20T19:11:07.583 回答