python多进程数据输出问题

发布于 2022-09-05 04:12:07 字数 462 浏览 26 评论 0

import requests,json
from multiprocessing import Pool
info_list=[]#空list
url_list=[......]#多个url
def get_info(url):
    json_data=requests.get(url).json()
    info_list.append(json_data)
if __name__=="__main__":
    with Pool() as p:
        p.map(get_info,url_list)

我知道这样最终info_list中还是空的,因为多进程每个进程各自持有一份数据,默认无法共享数据,我尝试了Manager,Queue,但是不知道为什么还是不行,最后list中还是没有数据,大佬能给一段代码吗?
我的目的就是多进程运行,每个进程向list中添加数据,最后得到这个list值.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

向地狱狂奔 2022-09-12 04:12:07
  1. 你这个list不是进程安全, 会有bug

你自己debug看看是json_data没有,还是说其他的问题, 光靠这个代码真的看不出来哦

向地狱狂奔 2022-09-12 04:12:07

首先list不是线程安全的,所以多线程不要同时对list进行操作

pool.map() 返回一个列表

import requests,json
from multiprocessing import Pool

url_list=['http://www.baidu.com' for i in range(10)]

def get_info(url):
    response = requests.get(url)
    return response

if __name__=="__main__":
    info_list = []
    with Pool() as p:
        info_list = p.map(get_info,url_list)

    for i in info_list:
        print(i.status_code)
~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文