返回介绍

4.8 处理非 HTTP GET 请求

发布于 2019-11-28 05:27:14 字数 1194 浏览 1108 评论 0 收藏 0

一般来说,爬虫只会抓取信息展示类的页面,所以基本只会处理 HTTP GET 方法的数据。但是对于某些场景,模拟 POST 等方法也是需要的。

0.7.1 版本之后,废弃了老的 nameValuePair 的写法,采用在 Request 对象上添加 Method 和 requestBody 来实现。

Request request = new Request("http://xxx/path");
request.setMethod(HttpConstant.Method.POST);
request.setRequestBody(HttpRequestBody.json("{'id':1}","utf-8"));

HttpRequestBody 内置了几种初始化方式,支持最常见的表单提交、json 提交等方式。

API说明
HttpRequestBody.form(Map\ params, String encoding)使用表单提交的方式
HttpRequestBody.json(String json, String encoding)使用 JSON 的方式,json 是序列化后的结果
HttpRequestBody.xml(String xml, String encoding)设置 xml 的方式,xml 是序列化后的结果
HttpRequestBody.custom(byte[] body, String contentType, String encoding)设置自定义的 requestBody

POST 的去重:

从 0.7.1 版本开始,POST 默认不会去重,详情见: Issue 484 。如果想要去重可以自己继承 DuplicateRemovedScheduler ,重写 push 方法。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文