python多进程数据输出问题
import requests,json
from multiprocessing import Pool
info_list=[]#空list
url_list=[......]#多个url
def get_info(url):
json_data=requests.get(url).json()
info_list.append(json_data)
if __name__=="__main__":
with Pool() as p:
p.map(get_info,url_list)
我知道这样最终info_list中还是空的,因为多进程每个进程各自持有一份数据,默认无法共享数据,我尝试了Manager,Queue,但是不知道为什么还是不行,最后list中还是没有数据,大佬能给一段代码吗?
我的目的就是多进程运行,每个进程向list中添加数据,最后得到这个list值.
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(2)
你这个list不是进程安全, 会有bug
你自己debug看看是json_data没有,还是说其他的问题, 光靠这个代码真的看不出来哦
首先list不是线程安全的,所以多线程不要同时对list进行操作
pool.map() 返回一个列表