问题标签 [apache-pulsar]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
4 回答
20287 浏览

apache-kafka - Kafka 相对于 Apache Pulsar 有哪些优缺点

雅虎开发了 Pulsar、pub-sub 消息传递系统并将其开源。它现在是 Apache 的孵化项目。由于 Kafka 也用于相同目的。想知道,卡夫卡相对于脉冲星的主要优点和缺点。

0 投票
1 回答
914 浏览

apache-pulsar - 用 pulsar 创建很多主题是一个好场景吗?

使用 pulsar 为每个散列动态创建一个主题(或分区),并在不再使用时删除主题(或分区),这是可能的和好的场景吗?

这个想法是能够以有序的方式读取具有相同散列的数据,而不会在具有相同散列的两条消息之间产生具有另一个散列的消息。允许客户在内存中仅保留有限数量的聚合消息。

消费者还应该能够在开始消费另一个主题(或分区)之前完全消费一个主题(或分区)。

因此,目标是能够以不同的顺序消费和生产数据。

在这个例子中,消息密钥哈希当然没有显示(每行有相同的密钥哈希)

0 投票
3 回答
621 浏览

apache-pulsar - 阿帕奇脉冲星无限保留

在 Apache Pulsar 主题文档中,它说我们可以将主题时间保留策略设置为 -1 以实现基于无限时间的保留,无限保留的缺点是什么,我们可以使用 pulsar 作为消息存储,其中数据永远存在于主题中并构建事件源他们周围的应用程序?

0 投票
1 回答
802 浏览

apache-pulsar - Apache Bookkeeper 删除日志

在 Apache bookkeeper 中,我们如何删除分类帐中的日志条目?如果 ledge 是不可变的并且无法删除条目,那么 pulsar 如何从 bookies 中删除过期消息?

0 投票
1 回答
654 浏览

python - 来自 Python 的 Jackson JSON 序列化格式

我正在尝试构建一个需要对 Apache Pulsar 服务进行管理操作的工具。出于某种原因,他们决定不对 REST API 主体中的参数使用纯 JSON,而是似乎使用 Jackson JSON 序列化。我开发的工具是用 Python 3.6 编写的,我正在寻找将简单数据结构编码为 Jackson JSON 序列化格式的方法,甚至寻找序列化格式的规范。是否存在此类文档或 Python 代码?由于需要序列化的典型数据结构很简单,例如 a Set<AuthActions>,并且AuthActions是一个枚举,如果已知的话,将这些东西直接手动编码成序列化格式是可行的。

用代码示例编辑:

0 投票
1 回答
5393 浏览

apache-kafka - Apache Pulsar 与 Apache RocketMQ

Apache Pulsar(由 Yahoo)似乎是下一代 Apache Kafka。

Apache RocketMQ(由阿里巴巴)似乎是下一代 Apache ActiveMQ。

两者都是开源分布式消息传递和流数据平台。

但是他们如何比较?在功能和性能方面,我什么时候应该更喜欢一个?

Pulsar(如 Kafka)是否更擅长流式传输,而 RocketMQ(如 ActiveMQ)更擅长消息传递?

0 投票
1 回答
290 浏览

java - Apache Pulsar - 从不同的线程确认

我已经在线程T1中启动了一个 Pulsar Java 使用者,并且我将要处理的消息移交给线程T2

确认来自T2的消息是否安全?具体来说,调用consumer.acknowledge(messageId)两个线程之间共享的实例可以吗?

0 投票
1 回答
305 浏览

java - Apache Pulsar Consumer.acknowledgeAsync() 失败应该如何处理?

我正在使用 Consumer.acknowledgeAsync() 来确认我的 Java 服务中的消息,并且想知道如果确认失败会发生什么?我应该重试几次操作并在重试用尽时丢弃我的消费者吗?

我正在计算为流量控制处理的消息数量,以限制内存使用。

0 投票
1 回答
1451 浏览

java - 线程“主”java.lang.NoClassDefFoundError 中的异常:org/apache/pulsar/client/api/PulsarClient

我正在尝试通过 java 执行 apache pulsar 生产者和消费者程序,我在 GCP 虚拟机中独立安装了 apache-pulsar 并以独立模式启动集群。下一步是我在 Windows Eclipse 中提供了一个 Maven 构建,以及我在 GCP 机器中上传的相同 jar 文件当我在 Windows Eclipse 中执行生产者和消费者程序时,我收到连接被拒绝错误,这很明显,因为 pulsar 没有安装在 Windows 机器中。但是,当我在 GCP 实例中尝试相同的事情时,即使集群已经启动,我也会收到与 no class def found 错误有关的错误。

pom.xml >>>

ProducerTutorial.java >>>

消费教程>>>>

Error_from_GCP_instance

Error_from_windows_eclipse

那么,什么是 ubuntu/GCP VM 机器的合适解决方案。我做错了什么,请给我方向

提前致谢

0 投票
2 回答
151 浏览

apache-pulsar - 如何使用 Apache Pulsar 进行有序批处理

考虑以下示例:

  • 全球有数以万计的商店需要记录内部流程

  • 对于每个车间位置,必须保留内部流程任务的顺序

  • 没有全球商店列表。流程任务可能从一个位置飞入,而无需事先了解该位置

  • 记录流程任务很关键,不能遗漏任何任务(故障转移)

我的理解是,为了保持每个位置内的流程顺序,我需要为每个商店位置创建一个主题,如下所示:

持久性://public/default/store-san-francisco

对于每个主题,我需要创建一个具有故障转移功能的独家消费者。

问题是,由于我事先不知道位置,为每个未知位置创建临时消费者的最佳方法是什么?