java获取其他网页登入后的后台数据

发布于 2021-12-03 20:15:55 字数 128 浏览 789 评论 6

最近需要收集一些别的网站上的数据,用的httpclient抓包倒是能够把数据抓出来,但是一旦抓取频率加快,登入后的页面就会退出来,程序也就跟着停了。好纠结,到底怎么弄才能持续抓取,而使程序不会停止,或者能够让他持续的时间长一点(最好一天)呢?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(6

百思不得你姐 2021-12-06 14:03:50

使用代理IP会不会存在因携带的数据而不能执行?我不太懂代理IP,主要是访问肯定要携带数据,携带的数据(用工具fiddler获取)如果是真正的IP好获取,但是代理IP所携带的数据会怎么获取呢.?请大神指教0.0.。

瑾兮 2021-12-06 12:42:54

就是代理IP所携带的数据会一样吗?

执手闯天涯 2021-12-06 10:54:52

回复
抓取频率快了就会被退出,IP代理就是模拟多个来源,跟你的业务没有影响

奢望 2021-12-06 00:29:27

使用IP代理,每个线程一个Ip,控制好频率

柠檬 2021-12-05 17:22:39

要是真能这样就好了0.0.。需求害死人

奈何桥上唱咆哮 2021-12-05 00:31:46

多找几个网站 来会切换着抓取。 哈哈

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文