问题标签 [confluent-schema-registry]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
2319 浏览

apache-kafka - 汇合模式注册表并不总是启动

我输入“confluent start schema-registry”,它会启动 zookeeper、kafka 并在模式注册表中失败。一分钟后,我再次输入命令,它发现 zookeeper 和 kafka 已经在运行,并启动 schema-registry 没有问题。

我无法确定根本原因。这显然与时间有关。一旦它可以启动所有服务,一旦它已经在 kafka 上失败了,大多数时候它就像上面一样。

schema-registry.log 中的错误消息

0 投票
3 回答
7821 浏览

scala - 从数据框制作 avro 模式 - spark - scala

我想在格式中dataframes写入一个流;kafkaavro

我认为我应该将模式发布为dataframe模式,schema registry然后avro将 DF 流写入 kafka,指定该模式作为选项。

所以我需要知道如何从 中推断avro模式dataframe以便能够在schema registry.

如果有另一种方式,我将不胜感激

0 投票
1 回答
3293 浏览

apache-kafka - Spring Embedded Kafka + Mock Schema Registry:State Store ChangeLog Schema 未注册

我正在使用带有 MockSchemaRegistryClient的Spring Embedded Kafka Broker为我们的 kafka 系统构建集成测试。我正在为使用 Streams API (KStreamBuilder) 构建的一种 Stream 拓扑构建测试。这个特定的拓扑有一个 KStream (stream1) 馈送到 KTable (table1)。

当我将来自 table1 的 KTableProcessor 的输入输入到 stream1 时,我遇到了一个错误:

提前致谢!

0 投票
1 回答
7003 浏览

python - 无法通过 Docker 连接到单节点 Kafka 服务器

我正在尝试通过 Docker 连接到单节点 Kafka 服务器,但出现以下错误:

docker-compose.yml 文件内容如下:

Dockerfile 内容如下:

我究竟做错了什么?

0 投票
0 回答
178 浏览

elasticsearch - 用于模式注册表的嵌套 json 的索引映射

我已经映射并成功索引了不同格式的 json 文件。但是这个从模式注册表创建的特定 json 文件很奇怪,我无法破解它的映射。我也参考了很多文章,但没有帮助。

请在下面找到我要索引的映射和 json 文件。它确实被索引了,我没有得到我想要的输出。

映射:

json 文件看起来像。

}

我想要索引显示的东西

元数据.schema。命名空间:....

元数据.schema。名称:....

不像我目前得到的以下 -

metadata.schema {“类型”:“记录”,“名称”:“信封”,“命名空间”:Bla

0 投票
1 回答
1875 浏览

apache-kafka - 以 Kafka Avro 文件格式将新模式/主题添加到模式注册表

我正在尝试通过显式 curl 命令将模式运行到模式注册表。

我收到以下错误 {"error_code":500,"message":"Internal Server Error"}

注意:我可以从现有主题访问数据,但在推送时遇到相同的错误。

0 投票
1 回答
1222 浏览

apache-kafka - 如何运行模式注册表的两个实例

我正在尝试使用模式注册表的两个实例在集群模式下运行 Kafka,但我不太确定如何配置第二个实例,以便在第一个实例出现故障时接管它。

这是第一个 schema-registry 实例的属性文件:

第二个文件应该是什么样子,这样它们既可以与 zookeeper 通信,又可以实现高可用性?

0 投票
2 回答
3927 浏览

apache-kafka - org.apache.kafka.connect.errors.DataException:记录默认值的 JSON 无效:null

我有一个使用 KafkaAvroSerializer 生成的 Kafka Avro 主题。
我的独立属性如下。
我正在使用 Confluent 4.0.0 运行 Kafka 连接。

当我在独立模式下为 hdfs sink 运行 Kafka 连接器时,我收到以下错误消息:

当我使用 kafka-avro-console-consumer 传递模式注册表时,我将 Kafka 消息反序列化。

IE:

0 投票
2 回答
1419 浏览

apache-kafka - 使用 kafka-avro-console-consumer 将 Avro 记录作为二进制数组获取

我有一个 Kafka Producer,它将 Avro 记录发送到“测试”主题。我还有一个模式注册表,其中存储了每条记录的模式。

之后,我使用命令

检索我发送的 Avro 记录,并返回如下 JSON 输出:

现在的问题是我想得到输出,不是 JSON 格式,而是一个字节数组,遵循 Avro 二进制格式。

例如:

我可以使用任何反序列化器来完成此操作吗?我尝试使用

但它没有用。

有任何想法吗?

谢谢你。

0 投票
1 回答
947 浏览

apache-kafka - Confluent 3.3 无法使用 kafka-avro-console-producer 在本地连接到模式注册表

下载confluent开源3.3后在命令行做一个简单的实验:

confluent start - 启动所有服务而没有任何可见的错误:

使用 avro 控制台生产者发送消息,并查看到 localhost:8081 的连接错误,默认模式注册表端口:

以上来自融合平台文档https://docs.confluent.io/3.3.0/quickstart.html。任何关于成功连接到模式注册表可能需要什么其他配置的想法表示赞赏。