1

我有一个包含 16 个进程的 PyTorch 脚本。以下是主进程的代码片段:

procs = [mp.Process(target=self.worker_wrapper, args=(i, )) for i in range(self.n_workers)]
for p in procs: p.start()
while True:
    time.sleep(60)
    for i, p in enumerate(procs):
        self.logger.info('Check: id %d, exitcode %s, alive %s' % (
            i, str(p.exitcode), str(p.is_alive())))

worker_wrapper这样的:

def worker_wrapper(self, id):
    try:
        self.worker(id)
    except Exception as e:
        self.logger.info(e)
        self.logger.error(traceback.format_exc())

意志会做一些事情,worker永远不应该停止。它在开始时运行良好,但通常在运行 1 天后,一些子进程(不是全部)意外退出,我得到如下输出:

[2017-06-15 08:45:21,540] Check: id 13, exitcode -9, alive False

它没有发现任何异常。我试图搜索 exitcode -9 但没有得到任何有用的东西。有没有人遇到过这个?或者您对如何调试有任何想法?很抱歉,我无法提供最小的可重现代码片段,因为重现通常需要一天时间。我正在使用python2.7

4

1 回答 1

4

退出代码 -9 表示该进程已通过SIGKILL.

这可能是由于您的机器内存不足并且操作系统内核正在触发 OOM 杀手。

要验证这一点,请检查内核日志,dmesg您应该注意到针对您的工作进程的 OOM 杀手。

您需要减少应用程序的内存占用(或增加服务器/工作站的内存)。还要验证您的应用程序没有泄漏内存。

于 2017-06-19T06:34:58.723 回答