问题标签 [pulsar]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - Apache pulsar 服务性能测试
请帮助我,我需要对消息率在 1000000 以上的 pulsar 服务进行性能测试,有什么测试工具可以做吗?
java - Apache pulsar 2.8.0 独立失败
Pulsar Standalone 没有启动,我收到这样的错误。
也许有人知道如何解决它?
我注意到,当我关闭我的电脑并在晚上打开它并尝试独立启动 pulsar 时会发生这种情况。
我还为我的一个命名空间设置了保留。直到那时我才注意到这个问题。
要启动 pulsar,我需要删除所有数据文件夹,然后它才会启动。
更新:使一些测试 pulsar 2.7.2 没有这个问题,无法重现相同的异常。
同样在搜索解决方案时发现 2.8.0 需要更改(单击此处)
但在 2.7.2 中它已经是错误的,但不确定它是否与某些方式相关。
apache-pulsar - 现有消息上的 Pulsar-Functions
我是 Apache Pulsar 的新手,但我正在尝试使用 Pulsar-Functions 来处理有关某个主题的现有消息。似乎这些函数仅用于流式传输,因此它们只会在新消息到达输入主题时触发。不过,我还是想确认一下。
谢谢!
java - 日志文件仅用于日志还是用于存储消息?
对于pulsar bookeeper来说,路径下的/bookkeeper/ledgers/current/*.log
日志文件只是日志文件还是用来存储消息的?
如果我删除日志文件,它会丢失消息吗?
bash - Pod 没有安装到 Pulsar 命名空间
我目前正在尝试使用 Helm 将 Pulsar 安装到 Minikube 集群上。一切似乎都正确安装,但 pod 没有在正确的命名空间下注册。我正在运行以下脚本将 Pulsar 安装到 Minikube 上:
相反,Pod 显示在默认命名空间下。运行查询以获取 Pulsar 命名空间下的 pod 会产生以下结果:
然而,在对所有 Pod 进行通用查询时,我能够看到所有已安装的 Pod:
java - 由于错误的模式类型(JSON 而不是 AVRO),Pulsar 函数无法反序列化消息
在 docker 中作为独立运行 Pulsar 时,在特定情况下反序列化消息时,我们会遇到这个奇怪的问题。我们使用的是 2.7.1 版本。
我们有一个创建主题和函数的脚本,然后为 JSON 类型的麻烦主题创建模式。整个架构是正确的,但类型不正确。这都是在发送任何消息之前。我们还启用了set-is-allow-auto-update-schema
.
我们称之为它trouble-topic
,它由 2 个来源填充:ValidationFunction
和一个 Spring Boot 微服务。
ValidationFunction
验证消息,如果消息有效,它将映射消息发送到 Spring Boot 微服务使用的主题,然后对其执行一些逻辑并将其发送到trouble-topic
,但如果验证失败,则直接将消息发送到trouble-topic
。
当sendAsync
从 Spring Boot 微服务与以下生产者一起使用时,模式得到更新,将 AVRO 作为一种类型,然后TroubleFunction
读取trouble-topic
工作正常:
但是如果在此之前有些消息没有通过验证,并且在使用上面的 Producer 之前直接发送消息trouble-topic
,我们就会得到一个解析异常。我们通过以下方式从函数发送消息:
由于某种原因,这不会更新架构类型,并且架构类型仍然是 JSON。我使用 pulsar admin CLI 验证了每个步骤的模式类型。当这种情况发生在微服务生产者第一次更新模式类型之前,TroubleFunction
读取trouble-topic
失败并出现以下错误:
所以我的问题是这两者有什么区别,为什么从函数发送消息不能正确更新模式类型?不是在下面使用同一个 Producer 吗?还有一种方法可以解决这个问题,以便在初始化时设置模式类型,或者至少在从函数发送消息时更新模式类型?
windows - 无法在 Windows 中安装 pulsar-client
为什么当我尝试在我的命令“yarn install”中运行时出现错误我无法在 Windows 中安装 pulsar-client
apache-pulsar - pulsar 仅将非活动主题保留一年
我阅读了 pulsar 文档和一些关于 pulsar 如何处理非活动主题的 stackoverflow。pulsar 会在主题内的所有消息消费完并超过保留期后,自动删除不活跃的主题。我有一个场景,脉冲星主题用于从代理收集日志,并且该主题是预先创建的,并且必须保留(或至少一年),以便代理可以知道它并直接发送数据。来自这篇文章:如何避免在 Apache Pulsar 中自动删除非活动主题,有两种不同的方法来保留非活动主题
- 设置保留策略将数据保留至少 X 小时(直到 Y GB)
缺点是我不想将消息保留一年,这对于日志收集系统来说是不可能的,即使有可能也会付出巨大的代价 2. 在 conf/broker.conf 中手动设置 brokerDeleteInactiveTopicsEnabled=false 可以禁用删除非活动主题也是。这将永远保持不活跃的主题。很难跟踪这么多主题(预计数百万级别)并手动清理它们。对于动物园管理员来说,永远保留所有这些元数据可能会成为一个问题。
任何建议表示赞赏
java - 在 Apache Pulsar 中重放/重置消息
是否可以重播旧消息(在保留期内)?没有关于它的文档。我想根据时间戳或时间段来执行此操作。
对正确方向的提示将不胜感激。