问题标签 [apache-kafka-security]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
1821 浏览

apache-kafka - 带有 kerberos 的 kafka-console-producer 抛出安全协议不是公认的选项

我已将 Ambari v2.7.3 和 HDP v3.1.0 中的 Kerberos 启用到所有 Hadoop 服务。我已经使用 NIFI 验证了 HBase 身份验证。我还需要测试 Kafka。在 Kafka 控制台中,我可以创建一个主题。但是在生产和消费时,我面临如下错误。

以下是我尝试过的 Kafka 生产者命令

0 投票
1 回答
6584 浏览

apache-kafka - 在“/kafka/kafka_2.12-2.3.0/config/zookeeper_jaas.conf”中找不到名为“Server”的 JAAS 配置部分

当我从 kakfa_2.12-2.3.0 的包中运行 zookeeper 时,出现以下错误

zookeeper_jaas.conf是_

zookeeper.properties文件是

谁能建议可能是什么原因

0 投票
0 回答
1637 浏览

authentication - 加载 Zookeeper JAAS 登录上下文“客户端”时出现异常

当我运行 Kafka 代理时,出现错误:

zookeeper.jaas.conf

服务器.jaas.conf

服务器属性

用于运行 Kafka 代理的命令:

我正在使用SASL_SSL作为听众。

这是完整的堆栈跟踪

0 投票
2 回答
5434 浏览

python - 设置 Python KafkaProducer sasl 机制属性

我们使用的 sasl 机制是,但是SCRAM-SHA-256kafka 生产者只会接受sasl_mechanism, PLAIN,GSSAPIOAUTHBEARER

以下配置将给出错误

配置

我需要知道如何指定正确的 sasl 机制。

谢谢

0 投票
3 回答
7204 浏览

ssl - KAFKA 和 SSL:java.lang.OutOfMemoryError:在 KAFKA SSL 集群上使用 kafka-topics 命令时的 Java 堆空间

这是我在 Stackoverflow 上的第一篇文章,我希望我没有选择错误的部分。

语境 :

Kafka HEAP 大小在以下文件中配置:

使用以下参数:

操作系统是"CentOS Linux release 7.7.1908"

Kafka 是“confluent-kafka-2.12-5.3.1-1.noarch”,从以下存储库安装:

几天前,我在一个 3 机 KAFKA 集群上激活了 SSL,突然,以下命令停止工作:

哪个返回我以下错误:

在服务器的日志中,当我尝试通过“kafka-topics”请求它时,会出现以下行:

在集群上实施 SSL 之前,我能够正确使用此命令。这是我正在使用的配置。除了“kafka-topics”之外,所有功能都正常工作(消费者、生产者......):

证书没有问题(由内部 CA 签名,我添加到配置中指定的信任库中的内部 CA)。OpenSSL 显示没有错误:

由于参数“-consumer.config client-ssl.properties”,以下命令与 SSL 配合得很好

“client-ssl.properties”内容为:

现在,我被迫使用“--zookeeper”,根据文档,它已被弃用:

当然,它运行良好:

所以,我的问题是:为什么我无法使用“--bootstrap-server”atm?由于“动物园管理员”的弃用,我担心无法查阅我的主题及其详细信息......

我相信 kafka-topics 需要与 kafka-console-consumer 相同的选项,即“-consumer.config”...

询问是否需要任何额外的精度。

非常感谢,希望我的问题清晰易读。

布莱因

0 投票
1 回答
6611 浏览

apache-kafka - 如何使用 CLI/命令行中的用户名和密码保护 kafka 主题?

我已经在我的 Windows 10 上安装了 Docker,还安装了 Kafka。我在Kafka 集群中创建了一个“测试”主题。现在我想用一个简单的用户名和密码来保护主题。我对 Kafka 非常陌生,任何帮助都将不胜感激。

要运行 Kafka 命令,我使用的是 Windows“Power Shell”。

我尝试在命令行上运行一些命令

创建主题:- kafka-topics --create --topic test --partitions 1 --replication-factor 1 --if-not-exists --zookeeper zookeeper:2181

为了保护主题,我使用了命令: kafka-acls --topic test --producer --authorizer-properties --zookeeper zookeeper:2181 --add --allow-principal User:alice

不幸的是,它显示“ bash: afka-acl: command not found

我需要在 Kafka 配置文件中包含任何内容吗?或者是否可以只从 power shell 运行命令并保护主题?

使用用户名和密码进行保护与 ACL 相同还是不同?

0 投票
0 回答
402 浏览

security - 使用 SASL_PLAINTEXT 安全配置 ZK 和 Brokers 后,Kafka Schema Registry 初始化失败

我们正在为 Kafka 使用 Confluent 社区版设置,目前我们需要在集群周围配置 ACL,因此我们已经配置了 zk 和代理节点,因此客户端需要身份验证(用户名/密码) SASL_PLAINTEXT 令牌才能发布/订阅集群,它的在没有模式注册表的情况下完美工作,但是在配置模式注册表时,即使我们已将其配置为使用 SASL+PLAINTEXT 与 brokers/zk 节点的连接,它也无法初始化抛出异常。有什么我想念的请帮忙。

请注意,我们正在使用allow.everyone.if.no.acl.found=true标志,目前我们没有定义 ACL,所以我认为我们不需要为模式注册表用来初始化的 _schema 主题设置任何 ACL。

0 投票
1 回答
515 浏览

apache-kafka - 如何将主题访问权限授予特定用户?

我正在从不同的资源收集数据,每个资源对每个客户都有一个特定的主题。我只想为每个用户授予对相应主题的访问权限,因此他们无法访问所有主题。我正在使用 Kafka 0.10,并且正在使用 Kafka 工具。有解决办法吗?

0 投票
0 回答
247 浏览

ssl - 在不反弹 Kafka 集群的情况下将信任库证书添加到 Apache Kafka

我们正在使用 Apache kafka_2.11-1.1.0。每当我们想添加一个新的 Kafka 生产者或消费者时,我们都会更新信任库中的新证书。添加证书后,我们必须重新启动 kafka 集群。有没有办法在不滚动重启 Kafka 的情况下添加证书?从技术上讲,信任库更新不应该要求 Kafka 重新启动。

0 投票
0 回答
3539 浏览

apache-kafka - Kafka 无法在 Kerberized 集群上创建新的 KafkaAdminClient

我有一个带有 Kafka 的 kerberized 集群。我想在集群上使用 Confluent Schema Registry 和 Kafka。从我的本地电脑启动架构注册表,一切正常。但是当我将它上传到集群中的一台机器上并尝试从中运行时,我得到:

错误

我还尝试从集群上的另一台机器上运行它,我得到了相同的结果。

Schema-registry.properties

执行命令:

问题: 为什么它在我的本地电脑上工作,而不是在集群上的机器上?我应该改变什么?

PS即使尝试运行CMAK yahoo kafka-manager(使用相同的jaas.confing和相同的keytab),我也会得到相同的结果