1

我正在阅读文档(http://snappydatainc.github.io/snappydata/streamingWithSQL/)并想知道使用 kafka 时主题名称后的参数“:01”是什么意思。这是服务器正在使用的分区号还是线程数?

即:“主题'streamTopic:01 '

val sc = new SparkContext(new SparkConf().setAppName("example").setMaster("local[*]"))
val snc = SnappyContext.getOrCreate(sc)
var snsc = SnappyStreamingContext(snc, Seconds(1))

snsc.sql("create stream table streamTable (userId string, clickStreamLog string) " +
    "using kafka_stream options (" +
    "storagelevel 'MEMORY_AND_DISK_SER_2', " +
    "rowConverter 'io.snappydata.app.streaming.KafkaStreamToRowsConverter', " +
    "zkQuorum 'localhost:2181', " +
    "groupId 'streamConsumer', " +
    "topics 'streamTopic:01')")

抱歉,如果某处提到了这一点,但我找不到。

4

1 回答 1

1

这应该只是主题名称。Spark Streaming 将计算出 kafka 分区的数量并启动足够的并行任务以进行摄取。

在此处查看另一个示例。

于 2016-08-19T21:04:47.447 回答