python requests 爬取网页出现 IncompleteRead(2048 bytes read))
requests.exceptions.ChunkedEncodingError: ('Connection broken: IncompleteRead(2048 bytes read)', IncompleteRead(2048 bytes read))
这个错误出现的时间不固定,有时几分钟就出现了 有时几个小时才出现
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(2)
可能是chunked编码不完整导致的。
详细请看这里:http://blog.csdn.net/wangzuxi/article/details/40377467
典型的一个缓冲区的尺寸。实际上
IncompleteRead
是python原生库httplib的异常。HTTP通道返回0字节,或者返回一定字节后卡住太正常了。如果返回数据的可靠性很重要,请注意设置合理的超时并捕获相关的错误,如有必要甚至可以考虑手工验证HTTP头数据的Content-Length字段。