问题标签 [debezium]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
apache-kafka - debezium - 更改主题名称会导致错误跨数据库引用
我正在使用这个debezium-examples
source.json
jdbc-sink.json
我已经运行了这个示例,它工作正常。但是当我按照以下场景中的讨论进行了一些更改时。它给了我“跨数据库引用”错误。
设想
我已经从源代码中删除了这些属性
现在它在kafka中创建主题如下
当我在 jdbc-sink 中指定 topic=dbserver1.inventory.customers
时,它给了我以下异常
注意:它不是重复的,因为我也发布了其他问题,涵盖了不同的场景
mongodb - 通过 debezium mongodb 连接器连接到 mongodb 时身份验证失败
部署了 Strimzi Kafka、Strimzi Zookeeper 和 Debezium mongodb 连接器,并配置了 Debezium mongodb,
但是得到了身份验证异常,
以及我通过以下语句创建的 mongodb 帐户,
经过分析异常,默认使用的是Debezium mongodb authSource "source='admin'",但是我的mongodb账号的authSource是'springdatabase',我认为是认证失败的原因。
解决方法之一是使用默认的“admin”创建 mongodb 帐户。但是我们的生产 mongodb 帐户已经创建,所以我们无法更改它。
那么是否有任何配置属性来设置“authSource”?
mongodb - 如何从 Debezium 通过 SSH 连接到 MongoDB
我想在我的 Debezium 中通过 ssh 连接到 MongoDB 实例。
与 MongoDB 的连接不需要 ssh,它正在通过,但是使用 SSH 我收到超时异常。
我正在使用下面提到的常规 kafka-connect 属性。
apache-kafka - 用于 DB Changelog Derivation 的 Kafka Streams DSL 或处理器 API
我正在使用 debezium 从我的书店数据库中捕获 4 个表的更改,数据模型是 EAV 结构(高度规范化)。
图书:
book_attributes:
账面价值整数:
book_value_varchar ...类似于 book_value_int
我的目标是创建一个输出主题,当作为 KTable 使用时,它相当于:
我是流处理的新手,我尝试使用 KS DSL 加入主题。到目前为止,我的努力取得了不同程度的成功。这是更适合处理器 API 的操作类型吗?
apache-kafka-connect - 使用带 Avro 序列化的 Debezium mongodb CDC 创建的模式太多
我正在使用 Debezium mongodb 连接器从 mongo 中的 30GB 集合中流式传输更改。
这是我的配置:
起初,我得到一个“为主题创建的模式太多”,所以我添加了
现在,在模式注册表中为主题值创建了许多模式后,kafka-connect 的速度急剧下降。
我在 kafka-streams 应用程序中使用此主题,因此无法将 SMT 移动到接收器(没有接收器连接器)
集合项之间的模式更改但不超过 500 次,并且也是向后兼容的,所以我不明白为什么要创建这么多模式。
任何建议都会有所帮助
mysql - 同一个 MySql 数据库的多个 debezium 连接器不起作用
由于无法更新 debezium 连接器[DBZ-175],我正在尝试创建多个连接器来容纳新表。但是当我通过 curl 命令注册一个新的连接器时,以前的连接器FAILS。始终最新的连接器处于活动状态,而所有以前的连接器都失败。
当我检查先前连接器的状态时,输出如下:
我使用的连接器配置是:连接器 1
连接器 2
对此的任何帮助将不胜感激。
windows - 错误由于错误而停止(org.apache.kafka.connect.cli.ConnectStandalone)java.lang.NoClassDefFoundError:io/debezium/util/IoUtil
我正在尝试将我的 SQL Server 数据库连接到 Windows 上的 kafka,我下载了 Debezium jar 文件,它们位于名为 debezium-connector-sqlserver 的文件夹中,如下所示:Kafka 文件夹,Debezium 文件夹
我还在 connect-standalone.properties 中添加了这一行plugin.path=C:\\current_kafka_2.12-2.0.0\\debezium-connector-sqlserver
,这是我放置从 Debezium 下载的所有 jar 文件的地方。
我还创建了一个名为 connect-mssql.properties 的文件,并将其放入其中。
现在,当我尝试运行此 .\bin\windows\connect-standalone .\config\connect-standalone.properties .\config\connect-mssql.properties
我收到以下错误:
mongodb - Debezium Kafka 连接器 mongodb
有什么方法可以向 kafka 连接器指定 mongo 上的哪些操作应该考虑。实际上,我不希望 kafka 在删除 mongo 文档时做任何事情(应该考虑更新和插入新文档)。
谢谢
apache-kafka - Kafka Debezium MariaDB SinkConnector
有谁知道如何在 SinkConnector 连接器中传递动态参数而不是传递静态值(下面的示例):
我正在寻找如何传递动态值,因为在我们的用例中使用 Debezium 是为了替换触发器,所以我们也需要替换它的规则。
先感谢您。