我在一个超级计算集群上有一个帐户,我使用例如“pip install --user keras”安装了一些软件包。
使用 qsub 向队列提交作业时,我尝试通过设置“export PYTHONPATH=$PYTHONPATH:[$HOME]/.local/lib/python2.7/site-packages/keras”来确保系统可以看到我的本地包“在脚本中。
但是,生成的日志文件仍然抱怨没有名为 keras 的包。如何确保系统找到我的包裹?
我在一个超级计算集群上有一个帐户,我使用例如“pip install --user keras”安装了一些软件包。
使用 qsub 向队列提交作业时,我尝试通过设置“export PYTHONPATH=$PYTHONPATH:[$HOME]/.local/lib/python2.7/site-packages/keras”来确保系统可以看到我的本地包“在脚本中。
但是,生成的日志文件仍然抱怨没有名为 keras 的包。如何确保系统找到我的包裹?
如果您使用的是 pbs Professional,请尝试在您的环境中导出 PYTHONPATH,然后使用带有 qsub 的“-V”选项提交作业。这将使 qsub 获取所有环境变量并将其导出以用于工作。否则,尝试使用选项“-v”(注意小 v)设置它,然后将您的环境变量键/值对与该选项像qsub -v HOME=/home/user job.sh
是否可以从计算节点访问 python 包?如果不是,那么解决方案是您需要安装它们。
一旦可以访问软件包,只需正确设置环境即可。对于 Torque,您可以使用 -V 和或 -v 为每个作业设置环境。-V 选项将提交作业的环境导出到作业。如果您只想发送一些变量, -v 可能会照顾您:
qsub script.sh -v PYTHONPATH=<desiredpath>[,var2name=var2value[,...]]