0

我有一个集群,有 2 个 worker r5.8xlarge,32 个 vcpu,每个 256GB ram,即使还有大量集群 ram,Yarn 也没有为我的执行程序分配请求的 ram 数量。设置如下:

spark.executor.cores=5
spark.driver.cores=5
spark.executor.memory=20g
spark.driver.memory=40g
spark.yarn.executor.memoryOverhead=3g
spark.yarn.driver.memoryOverhead=4g
spark.memory.storageFraction=0.3
spark.memory.fraction=0.8

当我的应用程序运行时,执行程序只分配了 17GB 的堆内存,而不是 20GB,并且驱动程序只分配了 34GB 而不是 40GB,尽管每个节点上都有足够的内存来分配

4

0 回答 0