mongodb 存入了pymongo传入的多个数据之后怎么提取有用的数据

发布于 2022-09-02 09:28:18 字数 1741 浏览 29 评论 0

有多条这样类似的数据

{ "_id" : ObjectId("56d06f01c3666e08d0f0c844"),
 "http://tieba.baidu.com/p/4345287300" : "【关于更新】作者原话", 
 "http://tieba.baidu.com/p/4328978430" : "服务。", 
 "http://tieba.baidu.com/p/4372502982" : "『诛魂记』第331章:圣东王府", 
 "http://tieba.baidu.com/p/4355241530" : "『诛魂记』第322章:麒麟之威", 
 "http://tieba.baidu.com/p/4329505585" : "『诛魂记』第313章:泣血跪求", 
 "http://tieba.baidu.com/p/4343824178" : "新年快乐啦啦啦", 
 "http://tieba.baidu.com/p/4328603018" : "写小说好看吗", 
 "http://tieba.baidu.com/p/4333008061" : "来吧,你我君臣一场", 
 "http://tieba.baidu.com/p/4315565196" : "『诛魂记』第305章:临危受命", 
 "http://tieba.baidu.com/p/4340906961" : "『诛魂记』第320章:擒贼擒王", 
 "http://tieba.baidu.com/p/4337476352" : "新年到了,是不是发红包了"
 }

我想在上面的数据当中获得能够匹配:『诛魂记』 的连接以及后面的文本数据,例如

"http://tieba.baidu.com/p/4329505585" : "『诛魂记』第313章:泣血跪求"

这样,
同时把得查询到的结构存到另外一个表中,以及得到

"http://tieba.baidu.com/p/4329505585" : "『诛魂记』第313章:泣血跪求"

中的连接 http://tieba.baidu.com/p/4329505585

最近开始在接触一些爬虫相关的东西,想自己做个东西出来,实在是捉急了。

下面是python里面的代码

    def craw(self, root_urls):
        for new_url in root_urls:
            html_cont = self.downloader.download(new_url)
            new_chapter_urls, new_linkdatas = self.parser.parselink(root_chapter_url, html_cont)
            mid_data = zip(new_chapter_urls,new_linkdatas)
            mid_mid_datas = dict((new_chapter_urls,new_linkdatas) for new_chapter_urls,new_linkdatas in mid_data)
            c = pymongo.MongoClient(host='127.0.0.1', port=27017)
            db = c.spider
            db.chapter_datas.insert(mid_mid_datas, check_keys=False)

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

蓝眼泪 2022-09-09 09:28:18

为什么不在抓取的时候直接根据data里面的内容是否包含“『诛魂记』”来过滤一下呢?

>>> s = "『诛魂记』第331章:圣东王府"
>>> "『诛魂记』" in s
True
>>> s = "新年快乐啦啦啦"
>>> "『诛魂记』" in s
False
~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文