问题标签 [confluent-cloud]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
218 浏览

java - jenkins 中的 Kafka 生产者代码无法将数据发送到融合的 kafka 主题

我在 maven 项目中有一个 java 文件,其中包含用于将数据发送到主题的 Kafka 生产者代码。

我使用命令运行这个文件

属性是:

当我在本地运行此代码时,它能够将数据发送到融合的 Kafka 主题

现在我在 Jenkins 管道中添加了一个阶段来在 shell 脚本中运行 java 文件

所有其他功能都有效,但 Kafka 生产者无法将数据发送到融合的 Kafka 主题。也不会抛出任何错误。有人可以帮我解决我所缺少的吗?

0 投票
1 回答
28 浏览

apache-kafka - Confluent Cloud - 在 poll() 中看不到显着的多线程改进

我尝试使用 2 种方法从 Confluent Cloud 集群中消费消息,并且两者的总 poll() 时间几乎相同 -

  1. 单线程 - 仅使用一个使用者顺序读取所有 TopicPartition

  2. 多线程 - 生成多个消费者(等于 TopicPartitions 的数量),手动将每个分区分配给单独的消费者(使用 #assign())。并行运行这些线程并执行#poll()。消息的处理也将由线程本身完成。

第二种方法的速度有所提高,但这主要是由于并行发生的处理部分。poll() 方法(获取所有 ConsumerRecords,不包括处理)所花费的时间在这两种情况下几乎相同。

我的问题-KafkaConsumer 中的 poll() 方法是否以某种方式在服务器端阻塞?多个消费者并行轮询与单个消费者顺序轮询的轮询时间几乎相似。唯一的性能提升似乎是由于使用 poll() 获取所有 ConsumerRecords 之后发生的处理部分。

注意:我在这里没有使用消费者组功能,因为它不适合我们的用例。如前所述,我正在手动分配 TopicPartitions。

0 投票
1 回答
219 浏览

apache-kafka - 通过控制中心控制 Confluent Cloud 中的主题级别权限

我在 Confluent 平台的基于云的免费试用中找不到控制主题级别权限的选项。你能建议如何配置吗?

0 投票
1 回答
43 浏览

apache-kafka - 使用 confluent-kafka-python 来自融合云代理的 ProduceResponse

此日志可通过生产者客户端中的debug=all配置获得,用于融合云。confluent-kafka-python

如何ProduceResponse解析rtt?可以使用on_delivery回调来完成吗?

0 投票
0 回答
31 浏览

apache-kafka - 使用 RBAC 控制 Confluent Cloud 中的主题级别权限

我无法在 confluent kafka 免费试用控制中心找到 RBAC 选项。我知道有选项 ACL 但是我想从控制中心探索 RBAC。但是有人可以建议如何使用 RBAC 来控制权限吗?

0 投票
1 回答
552 浏览

java - Can't deserialize data in the Kafka Stream using Spring Cloud Streams

I am creating a simple Kafka Streaming application. My Producer is producing protobuf serialize messages to one topic and I'm using that topic in Kafka Streaming application to consumer messages. I'm trying to deserialize messages using valueSerde: io.confluent.kafka.streams.serdes.protobuf.KafkaProtobufSerde in my application.yml file. I'm getting below errors.

Errors:

#xA;

My application.yml configuration file:

#xA;

process method to print actual deserialize message in the log:

#xA;

Please help me to resolve this issue. How can I deserialize messages using protobuf in Kafka Stream?

0 投票
0 回答
83 浏览

rest - 连接到 Confluent Cloud - curl: (52) 来自服务器的空回复

连接到 Confluent Cloud 时运行 Curl 命令时出错:

无法使用 REST API 连接到 Confluent Cloud Broker。

我们需要启用什么吗?

我正在使用 curl 命令进行连接。

如果我们需要配置任何东西,任何人现在都可以告诉我们吗,比如是否由于某些防火墙设置我们无法得到任何回复?

0 投票
1 回答
103 浏览

apache-kafka - 将 Kafka 集群审计日志获取到 GCP 日志记录的不同方法有哪些?

将 Kafka 集群审计日志获取到 GCP 日志记录的不同方法有哪些?谁能分享更多关于我如何实现它的信息?

谢谢!

0 投票
1 回答
16 浏览

python-3.x - 想要运行 ccloud 命令以使用 python 创建主题

我想ccloud create topic mytopic 使用 python运行这个命令

0 投票
0 回答
76 浏览

docker - Kafka,从 docker 容器运行时融合云身份验证错误。SASL 身份验证错误:身份验证失败

我有一个 Kafka 接收器在 Visual Studio 中运行,支持 Docker。下面是我用来连接 Kafka 的身份验证方法。

当我在有和没有 docker 的情况下运行这个项目时,这个工作正常(直接从 Visual Studio 运行)

现在,当我进行 docker build 并创建该项目的映像并直接从 docker 桌面运行时,我收到此身份验证错误。

任何人都可以建议在使用 Confluent 云时引发此身份验证错误的原因是什么?