问题标签 [debezium]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
1234 浏览

apache-kafka - debezium - 更改主题名称会导致错误跨数据库引用

我正在使用这个debezium-examples

source.json

jdbc-sink.json

我已经运行了这个示例,它工作正常。但是当我按照以下场景中的讨论进行了一些更改时。它给了我“跨数据库引用”错误。

设想

我已经从源代码中删除了这些属性

现在它在kafka中创建主题如下

当我在 jdbc-sink 中指定 topic=dbserver1.inventory.customers时,它给了我以下异常

注意:它不是重复的,因为我也发布了其他问题,涵盖了不同的场景

0 投票
2 回答
1671 浏览

mongodb - 通过 debezium mongodb 连接器连接到 mongodb 时身份验证失败

部署了 Strimzi Kafka、Strimzi Zookeeper 和 Debezium mongodb 连接器,并配置了 Debezium mongodb,

但是得到了身份验证异常,

以及我通过以下语句创建的 mongodb 帐户,

经过分析异常,默认使用的是Debezium mongodb authSource "source='admin'",但是我的mongodb账号的authSource是'springdatabase',我认为是认证失败的原因。

解决方法之一是使用默认的“admin”创建 mongodb 帐户。但是我们的生产 mongodb 帐户已经创建,所以我们无法更改它。

那么是否有任何配置属性来设置“authSource”?

0 投票
1 回答
2185 浏览

jdbc - Kafka Connect JDBC Sink - 一个接收器配置中每个主题(表)的 pk.fields

关于这个例子debezium-example

我有多个具有不同主键的主题

jdbc-sink.source

我们如何为每个主题(表)指定“pk.fields”?

0 投票
1 回答
371 浏览

mongodb - 如何从 Debezium 通过 SSH 连接到 MongoDB

我想在我的 Debezium 中通过 ssh 连接到 MongoDB 实例。

与 MongoDB 的连接不需要 ssh,它正在通过,但是使用 SSH 我收到超时异常。

我正在使用下面提到的常规 kafka-connect 属性。

0 投票
0 回答
63 浏览

apache-kafka - 用于 DB Changelog Derivation 的 Kafka Streams DSL 或处理器 API

我正在使用 debezium 从我的书店数据库中捕获 4 个表的更改,数据模型是 EAV 结构(高度规范化)。

图书:

数据库表书

book_attributes:

数据库表书

账面价值整数:

数据库表书

book_value_varchar ...类似于 book_value_int

我的目标是创建一个输出主题,当作为 KTable 使用时,它相当于:

数据库表书

我是流处理的新手,我尝试使用 KS DSL 加入主题。到目前为止,我的努力取得了不同程度的成功。这是更适合处理器 API 的操作类型吗?

0 投票
1 回答
576 浏览

apache-kafka-connect - 使用带 Avro 序列化的 Debezium mongodb CDC 创建的模式太多

我正在使用 Debezium mongodb 连接器从 mongo 中的 30GB 集合中流式传输更改。

这是我的配置:

起初,我得到一个“为主题创建的模式太多”,所以我添加了

现在,在模式注册表中为主题值创建了许多模式后,kafka-connect 的速度急剧下降。

我在 kafka-streams 应用程序中使用此主题,因此无法将 SMT 移动到接收器(没有接收器连接器)

集合项之间的模式更改但不超过 500 次,并且也是向后兼容的,所以我不明白为什么要创建这么多模式。

任何建议都会有所帮助

0 投票
0 回答
985 浏览

mysql - 同一个 MySql 数据库的多个 debezium 连接器不起作用

由于无法更新 debezium 连接器[DBZ-175],我正在尝试创建多个连接器来容纳新表。但是当我通过 curl 命令注册一个新的连接器时,以前的连接器FAILS。始终最新的连接器处于活动状态,而所有以前的连接器都失败。

当我检查先前连接器的状态时,输出如下:

我使用的连接器配置是:连接器 1

连接器 2

对此的任何帮助将不胜感激。

0 投票
4 回答
4967 浏览

windows - 错误由于错误而停止(org.apache.kafka.connect.cli.ConnectStandalone)java.lang.NoClassDefFoundError:io/debezium/util/IoUtil

我正在尝试将我的 SQL Server 数据库连接到 Windows 上的 kafka,我下载了 Debezium jar 文件,它们位于名为 debezium-connector-sqlserver 的文件夹中,如下所示:Kafka 文件夹Debezium 文件夹

我还在 connect-standalone.properties 中添加了这一行plugin.path=C:\\current_kafka_2.12-2.0.0\\debezium-connector-sqlserver,这是我放置从 Debezium 下载的所有 jar 文件的地方。

我还创建了一个名为 connect-mssql.properties 的文件,并将其放入其中。

现在,当我尝试运行此 .\bin\windows\connect-standalone .\config\connect-standalone.properties .\config\connect-mssql.properties

我收到以下错误:

0 投票
1 回答
392 浏览

mongodb - Debezium Kafka 连接器 mongodb

有什么方法可以向 kafka 连接器指定 mongo 上的哪些操作应该考虑。实际上,我不希望 kafka 在删除 mongo 文档时做任何事情(应该考虑更新和插入新文档)。
谢谢

0 投票
0 回答
342 浏览

apache-kafka - Kafka Debezium MariaDB SinkConnector

有谁知道如何在 SinkConnector 连接器中传递动态参数而不是传递静态值(下面的示例):

我正在寻找如何传递动态值,因为在我们的用例中使用 Debezium 是为了替换触发器,所以我们也需要替换它的规则。

先感谢您。