python爬虫多进程比多线程快吗?这两个能比吗?
对于PYTHON来说,进程与线程是明显不同的,因为PYTHON本身由于GIL的关系,也就是它本质一个PYTHON进程只可能有一个线程,不管说的是多少线程都是模拟出来的多线程,所以,你真要快速,这个要用多进程来处理,或者你用PYTHON的代码库GEVENT来做,它会在数据等待的时候进行切换,但我推荐还是基于nodejs来进行开发爬虫程序,因为这个语言,还是从效率来讲是最合适的语言,它是事件驱动,对IO驱动的情景特别合适。
爬虫是IO密集型,用多线程比较好。多进程是计算密集型。
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
暂无简介
文章 0 评论 0
接受
发布评论
评论(2)
对于PYTHON来说,进程与线程是明显不同的,因为PYTHON本身由于GIL的关系,也就是它本质一个PYTHON进程只可能有一个线程,不管说的是多少线程都是模拟出来的多线程,所以,你真要快速,这个要用多进程来处理,或者你用PYTHON的代码库GEVENT来做,它会在数据等待的时候进行切换,但我推荐还是基于nodejs来进行开发爬虫程序,因为这个语言,还是从效率来讲是最合适的语言,它是事件驱动,对IO驱动的情景特别合适。
爬虫是IO密集型,用多线程比较好。
多进程是计算密集型。