11

我想检查消费者/工人是否存在消费我即将发送的消息。

如果没有任何Worker，我会启动一些工人（消费者和发布者都在一台机器上），然后开始发布Messages。

如果有类似的功能connection.check_if_has_consumers，我会像这样实现它 -

import pika
import workers

# code for publishing to worker queue
connection = pika.BlockingConnection(pika.ConnectionParameters(host='localhost'))
channel = connection.channel()

# if there are no consumers running (would be nice to have such a function)
if not connection.check_if_has_consumers(queue="worker_queue", exchange=""):
    # start the workers in other processes, using python's `multiprocessing`
    workers.start_workers()

# now, publish with no fear of your queues getting filled up
channel.queue_declare(queue="worker_queue", auto_delete=False, durable=True)
channel.basic_publish(exchange="", routing_key="worker_queue", body="rockin",
                            properties=pika.BasicProperties(delivery_mode=2))
connection.close()

check_if_has_consumers但是我在pika中找不到任何具有功能的功能。

有没有办法使用pika来完成这个？或者，直接与兔子交谈？

我不完全确定，但我真的认为RabbitMQ会知道订阅不同队列的消费者数量，因为它确实向他们发送消息并接受确认

我 3 小时前刚开始使用RabbitMQ ......欢迎任何帮助......

这是我写的workers.py代码，如果有帮助的话....

import multiprocessing
import pika


def start_workers(num=3):
    """start workers as non-daemon processes"""
    for i in xrange(num):    
        process = WorkerProcess()
        process.start()


class WorkerProcess(multiprocessing.Process):
    """
    worker process that waits infinitly for task msgs and calls
    the `callback` whenever it gets a msg
    """
    def __init__(self):
        multiprocessing.Process.__init__(self)
        self.stop_working = multiprocessing.Event()

    def run(self):
        """
        worker method, open a channel through a pika connection and
        start consuming
        """
        connection = pika.BlockingConnection(
                              pika.ConnectionParameters(host='localhost')
                     )
        channel = connection.channel()
        channel.queue_declare(queue='worker_queue', auto_delete=False,
                                                    durable=True)

        # don't give work to one worker guy until he's finished
        channel.basic_qos(prefetch_count=1)
        channel.basic_consume(callback, queue='worker_queue')

        # do what `channel.start_consuming()` does but with stopping signal
        while len(channel._consumers) and not self.stop_working.is_set():
            channel.transport.connection.process_data_events()

        channel.stop_consuming()
        connection.close()
        return 0

    def signal_exit(self):
        """exit when finished with current loop"""
        self.stop_working.set()

    def exit(self):
        """exit worker, blocks until worker is finished and dead"""
        self.signal_exit()
        while self.is_alive(): # checking `is_alive()` on zombies kills them
            time.sleep(1)

    def kill(self):
        """kill now! should not use this, might create problems"""
        self.terminate()
        self.join()


def callback(channel, method, properties, body):
    """pika basic consume callback"""
    print 'GOT:', body
    # do some heavy lifting here
    result = save_to_database(body)
    print 'DONE:', result
    channel.basic_ack(delivery_tag=method.delivery_tag)

编辑：

我必须继续前进，所以这是我要采取的解决方法，除非出现更好的方法，

所以，RabbitMQ有这些HTTP 管理 api，它们在你打开管理插件后工作，并且在 HTTP api 页面中间有

/api/connections - 所有打开的连接的列表。

/api/connections/name - 单个连接。删除它将关闭连接。

所以，如果我通过不同的连接名称/用户连接我的工人和我的产品，我将能够检查工人连接是否打开......（工人死亡时可能会出现问题......）

将等待更好的解决方案...

编辑：

刚刚在 rabbitmq 文档中找到了这个，但这在 python 中会很麻烦：

shobhit@oracle:~$ sudo rabbitmqctl -p vhostname list_queues name consumers
Listing queues ...
worker_queue    0
...done.

所以我可以做类似的事情，

subprocess.call("echo password|sudo -S rabbitmqctl -p vhostname list_queues name consumers | grep 'worker_queue'")

hacky ......仍然希望 pika 有一些 python 函数来做到这一点......

谢谢，

4

2 回答 2

7

我也只是在调查这个。在阅读了源代码和文档后，我在 channel.py 中发现了以下内容：

@property
def consumer_tags(self):
    """Property method that returns a list of currently active consumers

    :rtype: list

    """
    return self._consumers.keys()

我自己的测试是成功的。我在我的频道对象是 self._channel 的地方使用了以下内容：

if len(self._channel.consumer_tags) == 0:
        LOGGER.info("Nobody is listening.  I'll come back in a couple of minutes.")
        ...
于 2012-12-12T20:33:40.800 回答
0

实际上，我在寻找其他问题时偶然发现了这一点，但可能对您有所帮助的是 Basic_Publish 函数，其中有一个默认为 False 的参数“Immediate”。

您可以做的一个想法是将立即标志设置为 True，这将要求消费者立即使用它，而不是坐在队列中。如果一个工作人员无法使用该消息，它将返回一个错误，告诉您启动另一个工作人员。

根据系统的吞吐量，这将产生大量额外的工人，或者产生工人来代替死去的工人。对于前一个问题，您可以编写一个类似管理员的系统，通过控制队列简单地跟踪工作人员，您可以在其中告诉类似“Runner”的进程来杀死现在不再需要的工作人员的进程。

于 2012-11-12T14:59:26.200 回答