抓取到28万左右页面的时候,居然内存溢出了。
抓到34万的时候就停了,也不知道什么原因,但是任务肯定是没有跑完。
jps先看下pid是多少
我看看,谢谢。
jstat -gcutil -h5 【pid】1s
加到1024了还不够,28万应该不至于吧。
回复你还是改一下你的抓取策略吧,这么搞什么都得爆
@景愿 呵呵,我就是想测试下,看看最大抓取量。
Java heap space - 堆内存不够了
加大-Xmx值
要看jvm哪个区,你弄个jvm监控观察下
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
暂无简介
文章 0 评论 0
接受
发布评论
评论(9)
抓到34万的时候就停了,也不知道什么原因,但是任务肯定是没有跑完。
jps先看下pid是多少
我看看,谢谢。
jstat -gcutil -h5 【pid】1s
加到1024了还不够,28万应该不至于吧。
回复
你还是改一下你的抓取策略吧,这么搞什么都得爆
@景愿 呵呵,我就是想测试下,看看最大抓取量。
Java heap space - 堆内存不够了
加大-Xmx值
要看jvm哪个区,你弄个jvm监控观察下