我的问题与变更数据捕获和实时更新有关。我有一个 mysql 数据库,它有近 250 个表,其更改数据是使用 debezium 捕获的,并根据各自的主题发送到 kafka。
这些表是高度规范化的,我对通过连接一些表创建的非规范化视图感兴趣。现在我需要知道表中是否有变化,我可以将其视为近乎实时的非规范化主题的变化。
我怎么能这样做。日志压缩是如何工作的?为了获得非规范化的主题视图,我是否需要记录所有主题?
我在这里还有什么其他可能性?
我的问题与变更数据捕获和实时更新有关。我有一个 mysql 数据库,它有近 250 个表,其更改数据是使用 debezium 捕获的,并根据各自的主题发送到 kafka。
这些表是高度规范化的,我对通过连接一些表创建的非规范化视图感兴趣。现在我需要知道表中是否有变化,我可以将其视为近乎实时的非规范化主题的变化。
我怎么能这样做。日志压缩是如何工作的?为了获得非规范化的主题视图,我是否需要记录所有主题?
我在这里还有什么其他可能性?
这不是很容易实现。
以下是您可以尝试的一些选项。
https://debezium.io/blog/2018/05/24/querying-debezium-change-data-eEvents-with-ksql/
https://debezium.io/blog/2018/09/20/materializing-aggregate-views-with-hibernate-and-debezium/