目前我们正在使用 Couchbase 和 ElasticSearch(2.x) 并使用elasticsearch-transport-couchbase插件成功地将数据从 CB 复制到 ES。
升级到 ES 5.6.4 时出现问题。到目前为止,我们在 ES 中使用单个索引,由于 ElasticSearch不再推荐这种方法,我们现在尝试在 ES 中创建多个索引(每种类型的索引)这意味着我们需要一种复制方法从 CB(单个存储桶)到 ES(多个索引)的数据。
解决这个问题的最佳方法是什么?可能的解决方案:
- 继续使用 elasticsearch-transport-couchbase 插件,但是我们必须创建很多(~150)XDCR 复制,每种类型 1 个复制。我怀疑这会扩展..
- 使用 Spark 或 Kafka 编写我们自己的解决方案(它们都不在技术堆栈上,因此实施可能需要时间,所以这不是最有利的解决方案)
任何帮助,将不胜感激。