如何将队列引用传递给 pool.map_async() 管理的函数？

Question

我想要一个长时间运行的进程通过队列（或类似的东西）返回其进度，我将其提供给进度栏对话框。当过程完成时我还需要结果。此处的测试示例失败，并出现 RuntimeError: Queue objects should only be Shared acrossprocesss through例如继承。

import multiprocessing, time

def task(args):
    count = args[0]
    queue = args[1]
    for i in xrange(count):
        queue.put("%d mississippi" % i)
    return "Done"

def main():
    q = multiprocessing.Queue()
    pool = multiprocessing.Pool()
    result = pool.map_async(task, [(x, q) for x in range(10)])
    time.sleep(1)
    while not q.empty():
        print q.get()
    print result.get()

if __name__ == "__main__":
    main()

我已经能够使用单独的 Process 对象（其中我am允许传递队列引用）来使其工作，但是我没有一个池来管理我想要启动的许多进程。关于更好的模式有什么建议吗？

Answer 1

使 q global 有效...：

import multiprocessing, time

q = multiprocessing.Queue()

def task(count):
    for i in xrange(count):
        q.put("%d mississippi" % i)
    return "Done"

def main():
    pool = multiprocessing.Pool()
    result = pool.map_async(task, range(10))
    time.sleep(1)
    while not q.empty():
        print q.get()
    print result.get()

if __name__ == "__main__":
    main()

如果您需要多个队列，例如为了避免混淆各个池进程的进度，则应该使用全局队列列表（当然，每个进程都需要知道列表中要使用的索引，但这可以作为参数传递；-)。

Answer 2

以下代码似乎有效：

import multiprocessing, time

def task(args):
    count = args[0]
    queue = args[1]
    for i in xrange(count):
        queue.put("%d mississippi" % i)
    return "Done"


def main():
    manager = multiprocessing.Manager()
    q = manager.Queue()
    pool = multiprocessing.Pool()
    result = pool.map_async(task, [(x, q) for x in range(10)])
    time.sleep(1)
    while not q.empty():
        print q.get()
    print result.get()

if __name__ == "__main__":
    main()

请注意，队列是从 manager.Queue() 而不是 multiprocessing.Queue() 获取的。感谢亚历克斯为我指明了这个方向。