6

我当前具有 3 个 Kafka 代理的 Kafka 部署文件如下所示：

apiVersion: apps/v1beta1
kind: StatefulSet
metadata:
  name: kafka
spec:
  selector:
    matchLabels:
      app: kafka
  serviceName: kafka-headless
  replicas: 3
  updateStrategy:
    type: RollingUpdate
  podManagementPolicy: Parallel
  template:
    metadata:
      labels:
        app: kafka
    spec:
      containers:
      - name: kafka-instance
        image: wurstmeister/kafka
        ports:
        - containerPort: 9092
        env:
        - name: KAFKA_ADVERTISED_PORT
          value: "9092"
        - name: KAFKA_ADVERTISED_HOST_NAME
          valueFrom:
              fieldRef:
                fieldPath: metadata.name
        - name: KAFKA_ZOOKEEPER_CONNECT
          value: "zookeeper-0.zookeeper-headless.default.svc.cluster.local:2181,\
                  zookeeper-1.zookeeper-headless.default.svc.cluster.local:2181,\
                  zookeeper-2.zookeeper-headless.default.svc.cluster.local:2181"
        - name: BROKER_ID_COMMAND
          value: "hostname | awk -F '-' '{print $2}'"
        - name: KAFKA_CREATE_TOPICS
          value: hello:2:1
        volumeMounts:
        - name: data
          mountPath: /var/lib/kafka/data
  volumeClaimTemplates:
  - metadata:
      name: data
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 50Gi

这将创建 3 个 Kafka 代理作为有状态集，并使用具有 FQDN（完全限定域名）的 Kubedns 服务连接到 Zookeeper 集群，例如：

zookeeper-0.zookeeper-headless.default.svc.cluster.local:2181

Broker ID 是根据 pod 名称生成的：

- name: BROKER_ID_COMMAND
          value: "hostname | awk -F '-' '{print $2}'"

结果：

kafka-0 = 0
kafka-1 = 1
kafka-2 = 2

但是，为了使用 Kafka 代理的 Kubedns 名称：

kafka-0.kafka-headless.default.svc.cluster.local:9092
kafka-1.kafka-headless.default.svc.cluster.local:9092
kafka-2.kafka-headless.default.svc.cluster.local:9092

我需要能够KAFKA_ADVERTISED_HOST_NAME根据 pod 的名称将变量设置为上述 FQDN 值。

目前我将变量设置为 pod 的名称：

- name: KAFKA_ADVERTISED_HOST_NAME
   valueFrom:
      fieldRef:
        fieldPath: metadata.name

结果：

KAFKA_ADVERTISED_HOST_NAME=kafka-0
KAFKA_ADVERTISED_HOST_NAME=kafka-1
KAFKA_ADVERTISED_HOST_NAME=kafka-2

但不知何故，我需要附加 DNS 名称的其余部分。

有没有办法直接设置 DNS 值？

像这样的东西：

- name: KAFKA_ADVERTISED_HOST_NAME
       valueFrom:
          fieldRef:
            fieldPath: kubedns.name
4

3 回答 3

4

我设法通过 pod 定义中的命令字段解决了这个问题：

    command:
    - sh
    - -c
    - "export KAFKA_ADVERTISED_HOST_NAME=$(hostname).kafka-headless.default.svc.cluster.local &&
       start-kafka.sh"

这会运行一个 shell 命令，该命令会根据hostname值导出广告主机名环境变量。

于 2017-11-28T00:00:58.100 回答
1 
- name: MY_POD_NAME
  valueFrom:
    fieldRef:
      fieldPath: metadata.name 
- name: KAFKA_ZOOKEEPER_CONNECT
  value: zook-zookeeper.zook.svc.cluster.local:2181
- name: KAFKA_PORT_NUMBER
  value: "9092"
- name: KAFKA_LISTENERS
  value: SASL_SSL://:$(KAFKA_PORT_NUMBER)
- name: KAFKA_ADVERTISED_LISTENERS
  value: SASL_SSL://$(MY_POD_NAME).kafka-kafka-headless.kafka.svc.cluster.local:$(KAFKA_PORT_NUMBER)

上述配置将创建您的 FQDN。当 Kafka 服务器启动时，您应该能够在 Kafka 日志中看到这些名称。

注意：Kubernetes 允许您使用语法引用环境变量$(VARIABLE)

于 2018-09-05T23:24:53.190 回答
1

以上都不适合我；我在 Kubernetes 1.16 的单个 pod 中设置它wurstmeister/kafka:2.12-2.5.0（wurstmeister/zookeeper:3.4.6不要问）；ClusterIp顶部的服务将 9092 转发到 Kafka 容器。

这组环境变量有效：

- name: KAFKA_LISTENERS
  value: "INSIDE://:9094,OUTSIDE://:9092"
- name: KAFKA_ADVERTISED_LISTENERS
  value: "INSIDE://:9094,OUTSIDE://my-service.my-namespace.svc.cluster.local:9092"
- name: KAFKA_LISTENER_SECURITY_PROTOCOL_MAP
  value: "INSIDE:PLAINTEXT,OUTSIDE:PLAINTEXT" # not production-ready!
- name: KAFKA_INTER_BROKER_LISTENER_NAME
  value: INSIDE
- name: KAFKA_ZOOKEEPER_CONNECT
  value: "localhost:2181" # since it's in the same pod

资料来源：wurstmeister/kafka doc、Kafka doc

固有的问题似乎是 Kafka 本身需要是一个 IP-ish 的东西来绑定并通过 与自己对话，而客户端需要一个 DNS-ish 名称才能从外部连接。由于某种原因，后者不能包含 pod 名称。（可能是我的一个单独的配置问题。）

于 2021-03-22T10:58:37.773 回答