5

我正在用 Python开发一个多线程应用程序。特别是，在这个应用程序中，一个线程应该能够生成一个事件，该事件应该被通知给一个（或多个）线程；收到事件通知的线程应该中断它们的执行并运行特定的函数。在这个服务功能结束时，他们应该回去做他们在事件生成之前所做的事情。

为了做这样的事情，我正在考虑使用某种发布/订阅模块。我发现了一个非常易于使用的：PyPubSub。你可以在这里找到一个关于如何使用它的非常简单的例子。

顺便说一句，当我开始使用它时，我意识到它做了我想要的，但只有当你只使用processes时。如果您有更多线程，它会暂停整个进程（因此，其中的所有线程）以运行特定例程。这实际上不是我正在寻找的行为。不幸的是，我无法将我的应用程序从多线程更改为多进程。

你知道任何可以帮助我在多线程应用程序中做我想做的事情的模块吗？谢谢。

4

1 回答 1

3

除了通过多处理模块之外，python 中没有真正的并发，因为 GIL 不是图片的一部分。

您想要做的需要一个事件循环，您可以在其中检查事件队列并酌情分派。Pypubsub 可能会让你的生活更轻松，但可能会过度使用你想要的东西（作为 pubsub 的作者，我觉得这样说很舒服:) 鉴于 mp 模块提供了多个进程的无缝集成，真的有理由不使用它如果并发真的是你需要的？

您希望事件从任何线程传递到一个或多个线程这一事实表明您可以使用任何线程都可以发布到的共享发布队列，哪些数据指示哪些事件类型和事件数据。此外，每个线程都有一个消息队列：线程发布到共享发布队列，主进程事件循环检查发布队列并将事件复制到各个线程消息队列，视情况而定。每个线程必须定期检查其队列并处理，删除已处理的事件。每个线程都可以订阅特定事件的主进程。

下面是一个相互发送消息的 3 个辅助线程的示例：

from multiprocessing import Process, Queue, Lock
from Queue import Empty as QueueEmpty
from random import randint


def log(lock, threadId, msg):
    lock.acquire()
    print 'Thread', threadId, ':', msg
    lock.release()


def auxThread(id, lock, sendQueue, recvQueue, genType):
    ## Read from the queue
    log(lock, id, 'starting')
    while True:
        # send a message (once in a while!)
        if randint(1,10) > 7:
            event = dict(type = genType, fromId = id, val = randint(1, 10) )
            log(lock, id, 'putting message type "%(type)s" = %(val)s' % event)
            sendQueue.put(event)

        # block until we get a message:
        maxWait = 1 # second
        try:
            msg = recvQueue.get(False, maxWait)
            log(lock, id, 'got message type "%(type)s" = %(val)s from thread %(fromId)s' % msg)
            if (msg['val'] == 'DONE'):
                break
        except QueueEmpty:
            pass

    log(lock, id, 'done')


def createThread(id, lock, postOffice, genType):
    messagesForAux = Queue()
    args = (id, lock, postOffice, messagesForAux, genType)
    auxProc = Process(target=auxThread, args=args)
    auxProc.daemon = True
    return dict(q=messagesForAux, p=auxProc, id=id)


def mainThread():
    postOffice = Queue()   # where all threads post their messages
    lock = Lock() # so print can be synchronized

    # setup threads:
    msgThreads = [
        createThread(1, lock, postOffice, 'heartbeat'),
        createThread(2, lock, postOffice, 'new_socket'),
        createThread(3, lock, postOffice, 'keypress'),
    ]

    # identify which threads listen for which messages
    dispatch = dict(
        heartbeat  = (2,),
        keypress   = (1,),
        new_socket = (3,),
    )

    # start all threads
    for th in msgThreads:
        th['p'].start()

    # process messages
    count = 0
    while True:
        try:
            maxWait = 1 # second
            msg = postOffice.get(False, maxWait)
            for threadId in dispatch[msg['type']]:
                thObj = msgThreads[threadId - 1]
                thObj['q'].put(msg)
            count += 1
            if count > 20:
                break

        except QueueEmpty:
            pass

    log(lock, 0, "Main thread sending exit signal to aux threads")
    for th in msgThreads:
        th['q'].put(dict(type='command', val='DONE', fromId=0))

    for th in msgThreads:
        th['p'].join()
        log(lock, th['id'], 'joined main')
    log(lock, 0, "DONE")


if __name__ == '__main__':
    mainThread()

您完全正确，此描述与 pypubsub 功能有相似之处，但您只会使用 pypubsub 的一小部分，我认为您的努力中的大部分复杂性是两种类型的队列，pypubsub 对解决问题没有太大帮助. 一旦您使用 mp 模块（根据我的示例）使队列系统工作，您可以引入 pypubsub 并将其消息发布/排队，而不是您自己植入事件。

于 2014-02-14T16:00:41.477 回答