求助 solr 分批索引

发布于 2021-11-23 17:52:02 字数 195 浏览 836 评论 7

各位大神,由于我数据库中的数据量比较大,不可能一次全部读出来进行索引,所以打算每次读取10000条数据进行索引,问题就是在对第一个10000条数据进行索引后,再对第2个10000条进行索引时,如何在之前的索引的上进行增加而不会覆盖了呢(lucene中用IndexWriterConfig.setOpenMode(OpenMode.APPEND)可以实现这个功能,但不知solr中该如何使用)

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(7

累赘 2021-11-23 23:57:14

因为每一条数据对应了一个本地文件,都要进行索引,所以不能用dataimport功能

旧城烟雨 2021-11-23 23:54:40

你200万的数据是一次性导出来的吗,为什么我10万条的数据(有一个大字段)导出来时,报内存溢出呢,求指教

一个人的旅程 2021-11-23 23:47:55

为什么不用solr的mysql呢,我的200万的数据没多久就完事了,不需要写程序的啊

醉生梦死 2021-11-23 23:37:40

我就是想知道如何增量呢

酷到爆炸 2021-11-23 23:27:20

回复
他有增量的配置。但是 增量 的前提 是 你数据的 update 时间必须大雨 你第一次 导入的 时间。

本王不退位尔等都是臣 2021-11-23 22:57:14

@java_大猫 我找到解决方法了,只要主键不一样,就是新增,谢谢你了

深巷少女 2021-11-23 20:20:02

SQL 写个分页,前10000条 直接导入。后10000条通过增量导。

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文