我是 Kubernetes 的新手,对在EKS
.
我正在尝试实现GPU
多个 pod 之间的共享,但是通过一些文档和文章,我发现我应该更新kube-scheduler configuration
with 参数,这将允许我进行必要的更改以启用GPU
pod 之间的共享。
问题
如何kube-scheduler
在EKS
. 如果无法更新配置,是否有其他方法可以kube-scheduler
只为那些需要的 pod 进行设置GPU
?
我是 Kubernetes 的新手,对在EKS
.
我正在尝试实现GPU
多个 pod 之间的共享,但是通过一些文档和文章,我发现我应该更新kube-scheduler configuration
with 参数,这将允许我进行必要的更改以启用GPU
pod 之间的共享。
问题
如何kube-scheduler
在EKS
. 如果无法更新配置,是否有其他方法可以kube-scheduler
只为那些需要的 pod 进行设置GPU
?
我认为您需要一个自定义 kubescheduler,并且让您的 pod 能够指定他们是要使用默认调度程序还是自定义调度程序。
Kubernetes 支持这一点:https : //kubernetes.io/docs/tasks/extend-kubernetes/configure-multiple-schedulers/——基本上,创建一个 .yaml 文件,kubectl create -f
在其上运行,你应该会看到你的调度程序。您需要在kube-system
命名空间中运行它,并给它一个唯一的名称(这样您的 pod 就可以说出他们想要哪个调度程序)。
我自己没有在 EKS 中这样做,但如果您无法在 EKS 中运行自定义调度程序,我会感到非常惊讶。此外,这篇 aws 博客文章https://aws.amazon.com/blogs/opensource/virtual-gpu-device-plugin-for-inference-workload-in-kubernetes/听起来与您正在寻找的内容相似,似乎它需要一个自定义调度程序。