Scrapy无法跳转到下一页

发布于 2022-09-12 03:09:50 字数 1019 浏览 19 评论 0

-- coding: utf-8 --

import scrapy
from mySpider.items import MyspiderItem

class ItcastSpider(scrapy.Spider):

name = 'itcast'
allowed_domains = ['dsxxcx.zstu.edu.cn']
start_urls = ['http://dsxxcx.zstu.edu.cn/master/index.php?r=site/college&college=%E4%BF%A1%E6%81%AF%E5%AD%A6%E9%99%A2']

def parse(self, response):
    for each in response.xpath('//tr'):
        item = MyspiderItem()
        name = each.xpath("./td/a/text()").extract()
        title = each.xpath("./td[2]/text()").extract()
        info = each.xpath("./td[3]/text()").extract()

        item['name']=name[0]if name else None
        item['title']=title[0]if title else None
        item['info']=info[0]if info else None
        yield item
    next_page = response.xpath("//ul/li[@class='next']/a/@href").extract_first()
    if next_page is not None:
        next_page = response.urljoin(next_page)
        yield scrapy.Request(start_urls=next_page, callback=self.parse,dont_filter=True)

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

枉心 2022-09-19 03:09:51

已经解决了,下一页网址爬下来不全,要把缺的那部分给他补上,补上域就好了

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文