我正在尝试构建一个 Python 守护程序来启动其他完全独立的进程。
一般的想法是对于给定的 shell 命令,每隔几秒轮询一次,并确保该命令的恰好k个实例正在运行。我们保留一个 pidfiles 目录,当我们轮询时,我们删除 pids 不再运行的 pidfiles 并启动(并为其创建 pidfiles),但是我们需要获取其中的k个进程。
子进程也需要完全独立,这样如果父进程死了,子进程就不会被杀死。从我读过的内容来看,似乎没有办法用subprocess
模块做到这一点。为此,我使用了这里提到的代码段:
http://code.activestate.com/recipes/66012-fork-a-daemon-process-on-unix/
我做了一些必要的修改(你会看到附加代码段中注释掉的行):
- 原来的父进程无法退出,因为我们需要启动器守护进程无限期地持续存在。
- 子进程需要以与父进程相同的 cwd 开始。
这是我的 spawn fn 和一个测试:
import os
import sys
import subprocess
import time
def spawn(cmd, child_cwd):
"""
do the UNIX double-fork magic, see Stevens' "Advanced
Programming in the UNIX Environment" for details (ISBN 0201563177)
http://www.erlenstar.demon.co.uk/unix/faq_2.html#SEC16
"""
try:
pid = os.fork()
if pid > 0:
# exit first parent
#sys.exit(0) # parent daemon needs to stay alive to launch more in the future
return
except OSError, e:
sys.stderr.write("fork #1 failed: %d (%s)\n" % (e.errno, e.strerror))
sys.exit(1)
# decouple from parent environment
#os.chdir("/") # we want the children processes to
os.setsid()
os.umask(0)
# do second fork
try:
pid = os.fork()
if pid > 0:
# exit from second parent
sys.exit(0)
except OSError, e:
sys.stderr.write("fork #2 failed: %d (%s)\n" % (e.errno, e.strerror))
sys.exit(1)
# redirect standard file descriptors
sys.stdout.flush()
sys.stderr.flush()
si = file('/dev/null', 'r')
so = file('/dev/null', 'a+')
se = file('/dev/null', 'a+', 0)
os.dup2(si.fileno(), sys.stdin.fileno())
os.dup2(so.fileno(), sys.stdout.fileno())
os.dup2(se.fileno(), sys.stderr.fileno())
pid = subprocess.Popen(cmd, cwd=child_cwd, shell=True).pid
# write pidfile
with open('pids/%s.pid' % pid, 'w') as f: f.write(str(pid))
sys.exit(1)
def mkdir_if_none(path):
if not os.access(path, os.R_OK):
os.mkdir(path)
if __name__ == '__main__':
try:
cmd = sys.argv[1]
num = int(sys.argv[2])
except:
print 'Usage: %s <cmd> <num procs>' % __file__
sys.exit(1)
mkdir_if_none('pids')
mkdir_if_none('test_cwd')
for i in xrange(num):
print 'spawning %d...'%i
spawn(cmd, 'test_cwd')
time.sleep(0.01) # give the system some breathing room
在这种情况下,事情似乎工作正常,即使父进程被杀死,子进程仍然存在。但是,我仍然遇到原始父母的产卵限制。在大约 650 次生成之后(不是同时,子进程已经完成),父进程因错误而窒息:
spawning 650...
fork #2 failed: 35 (Resource temporarily unavailable)
有什么方法可以重写我的 spawn 函数,以便我可以无限期地生成这些独立的子进程?谢谢!