Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
我正在寻找一种方法,将我的司机的 MDC 转发给主人和工人,这样我就可以识别来自同一操作的消息?例如,我有一个依赖于应用程序的查询/作业 ID,我希望将其附加到我的 spark 工作者中的结构化日志消息中。
问候。
如果我正确理解PR(我是 Spark 的新手),那么从3.1版 开始,现在应该可以通过spark.sparkContext.setLocalProperty("mdc." + name, "value").
spark.sparkContext.setLocalProperty("mdc." + name, "value")