将数据直接抓取到 Cassandra 数据库
任何人都可以帮助我使用 Cassandra 数据库吗?其实我想 通过抓取到的数据直接传给Cassandra。目前,我正在使用 scrapy 来解析来自不同网站的数据。
提前致谢。
希奇
Can anyone help me with Cassandra database? Actually, I want to
through the scraped data directly to Cassandra. Currently, I am using scrapy for parsing data from different websites.
Thanks-in advance.
ssich
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
在 Scrapy 中,一旦抓取了数据,您就可以通过项目管道运行它来存储它。
该文档很容易理解:http://doc.scrapy.org/ en/latest/topics/item-pipeline.html
只需在自定义项目管道中使用 Cassandra 的 python 驱动程序来存储结果。
编辑:用工作链接更新了死链接。
In Scrapy, once you have scraped the data you can run it through an item pipeline to store it.
The documentation is easy to understand: http://doc.scrapy.org/en/latest/topics/item-pipeline.html
Just use the python driver for Cassandra within you custom item pipeline to store the results.
Edit: Updated the dead link with working one.