activemq - 使用 AMQSource 的 Flink 作业不会生成输出

Question

我使用了 Apache Bahir 的 AMQSource 连接器来监听 ActiveMQ，但是当我运行 Flink 作业来使用来自 ActiveMQ 的数据时，没有生成输出。

例如，连接器正在侦听包含 4 条消息的 ActiveMQ，但是当我运行 Flink 作业时，没有数据被消耗。

val brokerURL = "tcp://localhost:61616"
val destinationName = "TEST.FOO"
val filePath = "C:\\output" + System.currentTimeMillis + ".csv"

val env = StreamExecutionEnvironment.getExecutionEnvironment
env.setStateBackend(new MemoryStateBackend(1000, false))


val config = new AMQSourceConfig.AMQSourceConfigBuilder[String]()
  .setConnectionFactory(new ActiveMQConnectionFactory(brokerURL))
  .setDestinationName(destinationName)
  .setDeserializationSchema(new SimpleStringSchema)
  .setDestinationType(DestinationType.QUEUE)
  .setRunningChecker(new RunningChecker).build
val amqSource = new AMQSource[String](config)

val stream = env.addSource(amqSource)

stream.map(/*Some MapFunction*/)

stream.writeAsText(filePath)

stream.print

env.execute

Answer 1

AMQSource 期望消息为字节，请参见 AMQSource.class 下的 run 方法中的代码：

Message message = this.consumer.receive(1000L);
if (!(**message instanceof BytesMessage**)) {
LOG.warn("Active MQ source received non bytes message: {}", message);
return;
}

当向 ActiveMQ 生成数据而不是文本消息时：

val message = session.createTextMessage(text)

使用字节消息：

val message = session.createBytesMessage()
message.writeBytes(text.getBytes)