1

在创建流式应用程序时,我可以看到如何配置 SparkConf(请参见此处

我假设我可以通过 SnappyStreamingContext 为类似于流应用程序的流作业配置 SparkConf。假设我在流式作业中获得了 SparkConf 的句柄并修改了一些设置。这些设置是否仅适用于此流式传输作业,还是所有作业的全局配置更新?

谢谢!

4

1 回答 1

1

是的,您可以通过 SnappyStreamingContext 为流式作业配置 SparkConf,它与 spark 流式配置相同。由于 SparkConf 是一个全局配置,它适用于流式应用程序中的所有作业。我认为 Spark 不允许您在启动应用程序后更改 SparkConf。

于 2016-08-31T04:39:27.947 回答