问题标签 [confluent-kafka-go]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
305 浏览

go - 如何为消费者添加 oauthbearer 支持 - 如何刷新 jwt 令牌

下面是我从需要刷新令牌的 Kafka 消费的代码。我有一个返回 jwt 令牌的函数。但是如何让 go 客户端刷新呢?当我运行时,我没有收到任何错误,但我也没有收到流。

我试图从这个链接模仿https://github.com/confluentinc/confluent-kafka-go/blob/master/examples/oauthbearer_example/oauthbearer_example.go

更新:

如果我删除 go func(eventsChan chan kafka.Event) 并在投票中添加以下内容,如果有效:

0 投票
1 回答
208 浏览

go - librdkafka 和 confluent-kafka-go 是否支持基于 JKS 的 SSL 配置?

我们可以配置 librdkafka 和 confluet-kafka-go 使用 jks 文件吗

0 投票
0 回答
129 浏览

go - kafka flush([timeout]) 阻塞了吗?

我试图了解如何在我只发送一条消息的测试环境中加速 Kafka。

我已经写了这个 go 并且有一个超时时间

代码运行时间超过 100 秒,这在测试中并不理想。我不确定刷新的工作是因为刷新保持通道打开直到超时,即使通道是空的。

如果我不想删除冲洗以供生产使用,我该如何加快测试速度。

0 投票
0 回答
31 浏览

payment-processing - 在线支付系统和 Confluent Kafka-Go API

最近,我想在我的网站上集成在线支付服务。一切都很顺利,直到我有一个关于它的架构的问题。好吧,该服务的工作方式如下。首先,它检查以支付请求的形式推送到 kafka 主题的任何传入消息,然后异步处理这些消息,并再次返回侦听消息。我应该注意,消息是从最新的偏移量中读取的,在我看来,这在支付系统方面不是正确的方式,因为某些请求可能没有得到完全处理。上述方案中是否存在架构问题?顺便说一句,该服务是用 Go 编写的,所有异步操作都由 goroutine 和通道执行。这是一个片段

在这里,ReadMessage 例程读取最近的消息,忽略之前发送的消息。这是一个好方法吗?提前致谢

0 投票
1 回答
431 浏览

go - 无法关闭融合的 golang kafka 消费者

我有一个关于在程序执行结束时处理 kafka 消费者的问题。这是负责关闭消费者的代码

你可能已经注意到了,我正在使用sync.Mutex,因为消费者被多个goroutines访问。下面是另一个负责从 kafka 读取消息的片段

问题是当关闭消费者时,程序执行就会停止。有什么问题吗?我应该将 cond 与互斥锁一起使用吗?如果您对我的代码中可能出现的问题提供详尽的解释,我将非常高兴。提前致谢。

0 投票
0 回答
262 浏览

go - Kafka 消费者(Kerberos 身份验证)Golang

我想使用融合的 Kafka 库“github.com/confluentinc/confluent-kafka-go/kafka”在 Golang 中配置具有 Kerberos 身份验证的 Kafka 消费者。还需要使用 Avro 类型的 Kafka 消息来读取消息。在此处获取 Java 代码。

这应该如何在golang中完成?

0 投票
1 回答
143 浏览

apache-kafka - 当代理列表中的第一个代理关闭时创建生产者

我有一个用于消费和生产的多节点 Kafka 集群。

在我的应用程序中,我使用 confluent-kafka-go(1.6.1) 创建生产者和消费者。当我生产和消费消息时,一切都很好。这就是我配置引导服务器列表的方式

但是当我开始给出经纪人的IP地址时bootstrap.servers,如果第一个经纪人出现故障,似乎生产者反复失败创建告诉

如果我删除故障节点的 IP,则生成和使用消息会起作用。如果在我创建生产者/消费者之后代理关闭,它们可以通过切换到其他节点继续使用。

我应该如何配置bootstrap.servers以使用可用节点创建生产者?

0 投票
1 回答
233 浏览

go - 使用 confluent-kafka-go 获取 kafka 代理、消费者、生产者指标

我找不到有关获取指标的实现的任何参考。有人可以提供示例和参考吗?

0 投票
1 回答
86 浏览

apache-kafka - librdkafka 和 confluent-kafka-go 是否支持通过带有 HTTP CONNECT 的 HTTP 代理连接到 kafka 代理?

我有一个使用 confluent-kafka-go 绑定用 Go 编写的 kafka 生产者。

我希望我的 kafka 生产者与支持 HTTP CONNECT 隧道的 HTTP 代理后面的 kafka 代理建立连接。

librdkafka 支持这个吗?confluent-kafka-go 支持这个吗?如果是,请指向相关文档或提供说明如何完成的代码片段。

如果不支持,添加支持有多难?

0 投票
0 回答
353 浏览

windows - 无法使用 VSCode/GoLand 在 Windows 上调试 Go 代码(获取“%1 不是有效的 Win32 应用程序”)

当我尝试使用 VS Code 和 dlv 调试此 Go 应用程序时,我收到以下错误:

启动失败:无法启动进程:fork/exec C:\Users\MyUser\Workspaces\goworkspace\github.com...__debug_bin.exe:%1 不是有效的 Win32 应用程序。

但是当我注释掉 kafka 代码(请参考 main.go)然后尝试调试时,调试器工作并且断点被命中。

我已经尝试过的事情:

  • 在其他机器上运行该应用程序,这很有效!

  • 在 Windows 上重新安装 Go。

  • 将应用程序移动到不同的目录。

  • 重新安装和更新 VSCode 和相关的 Golang 扩展/工具。

  • 检查了环境变量,但没有发现任何可疑之处。

  • 阻止了 Windows Defender,但这也不起作用。

  • 运行“Windows 内存诊断”工具。

  • 重新安装 tdm-gcc(由 kafka 使用)

  • 使用 Jetbrains Goland,但出现类似错误

无法启动进程:fork/exec C:\Users\MyUser\AppData\Local\Temp\GoLand___go_build_main_go.exe:%1 不是有效的 Win32 应用程序。

  • 从 Windows 终端使用 'dlv debug' 命令,再次得到类似的错误

无法启动进程:fork/exec C:\Users\MyUser\Workspaces\goworkspace\github.com\org\app-name\cmd__debug_bin: %1 不是有效的 Win32 应用程序。

版本详情:

  • 视窗 10 专业版 20H2
  • GoLand 2021.2.3
  • go 版本 go1.17.1 windows/amd64
  • Delve 调试器 Delve 调试器
  • VS 代码版本 1.60.2

请参考下面的代码,

main.go

}

卡发网

去环境

请让我知道我是否应该将此问题发布到某个特定的论坛/社区。