问题标签 [avsc]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
715 浏览

node.js - 使用 Kafka 模式注册 API 注册一个新的 avro 模式

我正在尝试schema使用kafka-schema-registeryapi 创建一个新的。下面是实现:

这是avroSchema外观:

当我执行此代码时,我得到500 - Internal server error.

谁能帮助我了解我哪里出错了?

0 投票
1 回答
727 浏览

avro - Avro - 为每个字段添加文档/描述

我们将 avro 用于我们的模式定义。是否可以为 avro 中的每个字段添加字段描述。我同意我们可以在记录级别添加“文档”。我们想在字段级别添加描述。

0 投票
1 回答
744 浏览

avro - 使用记录类型时,Avro 模式获取未定义的类型名称

所以我试图用这个 avro 模式解析一个对象。

对象就像:

但它的行为就像记录类型实际上并不存在,我得到了undefined type name: data.platform_data.test_service.result.record at Function.Type.forSchema它。

架构看起来像:

我应该提到我也在使用avsc这个。有人有什么想法吗?我已经尝试了几乎所有的组合,但 afaik 解析出像这样的对象的唯一方法是record

0 投票
1 回答
780 浏览

python - 使用python(fastavro)解析多个相互引用的AVRO(avsc文件)

我有一个 AVRO 模式,它目前位于单个 avsc 文件中,如下所示。现在我想将地址记录移动到另一个常见的 avsc 文件中,该文件应该从许多其他 avsc 文件中引用。所以客户和地址将是单独的 avsc 文件。如何将它们分开并让客户 avsc 文件参考地址 avsc 文件。另外如何使用python处理这两个文件。我目前在 python3 中使用快速 avro 来处理单个 avsc 文件,但打开以使用 python3 或 pyspark 中的任何其他实用程序。

文件名 - customer_details.avsc

如何将架构拆分到不同的文件中,地址记录文件可以从其他 avsc 文件中引用。那么我将如何使用快速 Avro (Python) 或任何其他 python 实用程序处理多个 avsc 文件?

0 投票
1 回答
740 浏览

json - vscode json格式化程序:不包装json对象

我现在正在使用 avro .avsc 模式,我喜欢在示例中进行格式化:

我的意思是单行字段定义{"name": "name", "type": "string"}

我想在 vscode 中编辑和格式化我的模式,但它不断包装字段,如


我试图配置默认的 json 格式化程序和beautify扩展名setting.json,但没有运气

0 投票
1 回答
233 浏览

ant - 如何在 ANT 构建中生成 Avro .avsc 文件

我需要在 ANT 构建中从 .avsc 文件(avro)生成文件。我不确定我应该为此使用什么插件。我尝试使用 xjc.XJC2Task 生成文件,但它似乎不起作用。有人可以建议我应该使用什么插件/类从 ANT 中的 avro 模式生成文件吗?

用 xjc 试过:

错误:

0 投票
1 回答
193 浏览

node.js - 使用 Kafka 模式注册 API 创建新的 avro 模式

我正在尝试使用 kafka-schema-registery api 创建一个新模式。我按照这篇文章中提到的步骤进行操作。使用 Kafka 模式注册 API 注册一个新的 avro 模式

我的 Avro 架构:

输入解析器:

下面是实现:

但得到以下错误,任何建议。

0 投票
0 回答
60 浏览

kafkajs - 如何使用 kafkajs-avro 确定通用消息的记录类型

我有发出多个版本记录的 kafka 主题。在我的解决方案中,我只想过滤掉非常具体的消息,例如

一些消息如下所示:

而其他人看起来像这样:

订阅消息流并注销整个消息时,我可以在控制台中看到 Avro 类型,但是在使用 message.value 时,该信息会丢失。我最终希望在 allowMessageFilter() 中有一些过滤逻辑来确定允许哪些记录。在这种情况下,我只想过滤“Memgroup_composite_2”

任何帮助将不胜感激。

0 投票
1 回答
351 浏览

node.js - 如何在 node.js 中反序列化 avro 模式消息

我正在使用 kafka 从源接收数据,我正在开发编写Node.jskafka-node用于连接到 kafka 服务器的消费者应用程序。另一方面,生产者被写入Java,他们正在使用一些 kafka 流媒体库来生成带有模式的 avro 消息。我能够接收消息,但它们是 avro 序列化的,下面是我收到的序列化消息格式 -

我正在尝试反序列化它,但无法使用avscnpm 模块,因为 avsc 只接受缓冲区数据格式。我不确定 avro 消息数据格式的类型。

我们也有这些消息的模式注册。所以我只需要帮助来反序列化 node.js 中的消息我知道有 npm 模块avsc可以帮助对 avro 消息进行编码解码,但它仅适用于缓冲区。请帮助我了解如何反序列化 Nodejs 中的 avro 消息。

谢谢!!!

0 投票
1 回答
309 浏览

java - 无法使用 maven 从 avsc 文件生成类

我在从 avsc 文件生成类时遇到问题。在 pom.xml 我添加了适当的依赖项:

在存储库包中,我创建了一个 avro 文件夹,在其中放置了扩展名为 .avsc 的类模式。

它是一个客户类,包括一系列货币巫婆也是从 avsc 生成的。

在 target-generated-sources 中调用 Maven-> Package 时,我应该看到我的类,但它没有。有没有人遇到过类似的问题?