29

我有几千个作业要在具有 16 个节点的 SLURM 集群上运行。这些作业应该只在大小为 7 的可用节点的子集上运行。一些任务是并行的，因此使用单个节点的所有 CPU 能力，而其他任务是单线程的。因此，多个作业应该在单个节点上同时运行。任何任务都不应该在多个节点上产生。

目前我提交的每个工作如下：

sbatch --nodelist=myCluster[10-16] myScript.sh

但是，此参数使 slurm 等待提交的作业终止，因此使 3 个节点完全未使用，并且根据任务（多线程或单线程），当前活动节点也可能在 CPU 能力方面处于低负载状态.

sbatch强制 slurm 在指定节点上同时运行多个作业的最佳参数是什么？

4

3 回答 3

42

你可以反过来工作；与其指定要使用的节点，不如为每个作业分配所有 7 个节点，而是指定不使用哪些节点：

sbatch --exclude=myCluster[01-09] myScript.sh

并且 Slurm 永远不会为您的作业分配超过 7 个节点。确保集群配置允许节点共享，并且您myScript.sh包含每个作业#SBATCH --ntasks=1 --cpu-per-task=n的n线程数。

于 2014-10-07T22:30:03.440 回答
2

一些任务是并行的，因此使用单个节点的所有 CPU 能力，而其他任务是单线程的。

我知道您希望单线程作业共享一个节点，而并行作业应该专门分配一个整个节点？

多个作业应在单个节点上同时运行。

就我对 SLURM 的理解而言，这意味着您必须将 CPU 内核定义为可消耗资源（即SelectType=select/cons_res和SelectTypeParameters=CR_Corein slurm.conf）

然后，为了约束并行作业以获取整个节点，您可以使用--exclusive选项（但请注意分区配置优先：如果分区配置为独占访问，则不能拥有共享节点）或使用-N 1 --tasks-per-node="number_of_cores_in_a_node"（例如，-N 1 --ntasks-per-node=8）。

请注意，后者仅在所有节点具有相同数量的核心时才有效。

任何任务都不应该在多个节点上产生。

这应该由-N 1.

于 2014-10-06T20:14:50.733 回答
0

实际上，我认为要走的路是先设置“预订”。根据此演示文稿http://slurm.schedmd.com/slurm_ug_2011/Advanced_Usage_Tutorial.pdf（最后一张幻灯片）。

场景：从中午开始在默认 SLURM 分区中保留 10 个节点，持续时间为每天 60 分钟。预订将仅适用于用户 alan 和 brenda。

scontrol create reservation user=alan,brenda starttime=noon duration=60 flags=daily nodecnt=10
Reservation created: alan_6

scontrol show res
ReservationName=alan_6 StartTime=2009-02-05T12:00:00
    EndTime=2009-02-05T13:00:00 Duration=60 Nodes=sun[000-003,007,010-013,017] NodeCnt=10 Features=(null) PartitionName=pdebug Flags=DAILY Licenses=(null)
    Users=alan,brenda Accounts=(null)

# submit job with:
sbatch --reservation=alan_6 myScript.sh

不幸的是，我无法测试这个过程，可能是由于缺乏特权。

于 2014-10-07T12:26:24.243 回答