问题标签 [confluent-schema-registry]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
51 浏览

apache-kafka - kafka 主题有两个 avro 类

我试图更多地了解模式注册表为每个模式保留的内容。我可以去哪里,或者我可以使用什么工具来了解与 avro 文件创建的类相关联的 java 包的名称。具体的部分将是文件的"namespace"元素.avsc。是否有命令行工具或任何其他方式可以在模式注册表中为给定模式找到此元数据?我知道它在.avsc文件中,但我只想从 shema 注册表中找到它。

0 投票
1 回答
1688 浏览

apache-kafka - Kafka Connect 从同一主题导出多种事件类型

我正在尝试使用一项新功能(https://www.confluent.io/blog/put-several-event-types-kafka-topic/)关于在同一主题上存储两种不同类型的事件。实际上我正在使用 Confluent 4.1.0 版并在下面设置这些属性以实现这一点

数据写入主题没有问题,并且可以从 Kafka Streams 应用程序中看到作为通用 Avro 记录。同样在 Kafka Schema 注册表中,为在该特定主题上托管的每个事件创建了两个新条目。

我面临的问题是我无法使用 Kafka Connect 从该主题导出这些数据。在最简单的情况下,当我使用如下文件接收器连接器时

我从连接器收到一个错误,这似乎是基于 AvroConverter 的某种序列化错误,如此处所示

请注意,模式注册表有一个 id 为 2 的 Avro 模式和另一个模式 id 为 3 的 Avro 模式,它们描述了同一主题上托管的两个事件。使用 JDBC 连接器时也会出现同样的问题。

那么我该如何处理这种情况,以便将数据从我的 Kafka 集群导出到外部系统。我的配置是否遗漏了什么?是否可以拥有具有多种类型事件的主题并通过 Kafka Connect 导出它们?

0 投票
2 回答
562 浏览

apache-kafka - Schema-Registry 中的模式如何通过 Replicator 传播

Confluent Schema-Registry 中的模式如何通过 Confluent-Replicator 传播到目标 Kafka-Cluster 和 Schema-Registry?

每个复制的消息模式是否包含在其中,或者模式是否通过单独的主题以某种方式单独复制?

我在 Confluent-Replicator 中没有看到任何与此相关的配置可能性。

0 投票
1 回答
398 浏览

apache-kafka - 使用 avro 模式中的 java.util.List 从 Kafka 读取消息

我正在尝试使用具有以下属性的消费者从 Kafka 读取消息

架构是

该对象已使用此模式成功写入 Kafka。但是在反序列化时我遇到了异常java.lang.NoSuchMethodException: java.util.List.<init>()

是否可以使用 java.util.List 类?我正在使用融合 3.1.2

0 投票
1 回答
14746 浏览

apache-kafka - 检索 id 1 的 Avro 模式时出错,找不到主题。;错误代码:40401

汇合版本 4.1.0

我正在使用 KTable 使用来自几个主题(topic_1,topic_2)的数据,加入数据,然后使用 KStream 将数据推送到另一个主题(topic_out)。(Ktable.toStream())

数据为avro格式

当我使用检查架构时

我发现

但是没有topic_out-key的主题。为什么没有创建?

topic_out 的输出:

我可以看到正在生成的密钥,但没有密钥的主题。

为什么需要带密钥的主题?
我将此主题提供给另一个连接器(hdfs-sink)以将数据推送到 hdfs,但它失败并出现以下错误

当我查看 schema-registry.logs 时,我可以看到:

知道为什么没有创建主题 topic_out-key 吗?

0 投票
1 回答
567 浏览

java - 在 kStreams 中使用 lambda 加入 Avro 格式数据

我有两个流:

现在我想加入两个流并根据密钥检索流 2 中不存在的流 1 字段。

我的例外输出应如下所示:

我的架构注册表文件:

我尝试以这种方式加入:

但我遇到了一个例外:

我想我需要在连接函数的左右值中提供我的 mysql avro 文件,而不是 genericAvroSerde。我试过了,但我没有得到。有人可以帮忙执行连接操作吗?

0 投票
1 回答
2328 浏览

go - 如何在 Go 中自动生成 Avro 模式?

我正在尝试将 Avro 和 Schema Registry 集成到我们的 Kafka 数据管道中。现在它看起来像 Go 服务内部

获取数据 -> 将数据编码为 JSON -> 写入 Kafka

我想以同样的方式使用 avro 模式

生成模式 -> 在模式注册表中更新模式 -> 获取数据 -> 编码为 Avro -> 写入 Kafka

但是有几个问题:

  1. 如何自动从 Go 类生成模式?
  2. 我应该如何检查架构与架构注册表的兼容性?
0 投票
2 回答
2505 浏览

apache-kafka - 给定一组来自​​ Confluent Schema Registry 的主题,如何获取所有必需的 Avro Schema

我们正在使用 Kafka、Avro 和 Avro Schema Registry。给定一组我想要使用的主题,有没有办法获取解码我将收到的消息所需的所有模式 ID?

我已经检查了 Confluent 的 Python 客户端的实现,它似乎正在的是接收消息,从单个消息中获取 Avro 模式 ID,然后即时从 Avro 模式注册表中查找模式。

我正在寻找一种方法来获取执行程序之前所需的所有模式(即手动)。

0 投票
1 回答
46 浏览

apache-kafka - 具有融合模式注册表的 Avro DataFileWriter API

我可以将 avro DataFileWriter 与模式注册表一起使用吗?

0 投票
1 回答
219 浏览

java - 如何在 kstreams 中将 avro 格式的数据生成到主题上

想在发送到 source2 之前进行序列化