数据库定时查询大量数据

发布于 2022-09-12 13:32:35 字数 380 浏览 30 评论 0

问题描述

有一个场景,需要定时查询数据库库中所有会员的订单信息,假设量很大,每半个小时查询一次,此时单节点直接查询肯定搞不懂,如何在多节点的情况下实现。

暂时不考虑数据库设计,重点在于多节点之间的负载平衡以及单个节点内,半个小时内的负载也是平稳的,不会前15分钟压力过大,后面15分钟没有压力。

思路

目前有两种思路
1.多节点分批查询数据,比如10个节点查询500万数据,平均每个查询50万数据,这样可以达到每个节点的负载平衡,此外在每个节点查询时也是分批拉取,尽量在30分钟查询的数量比较平均,单个节点的负载比较平稳。

2.直接把订单数据都存在EL里,减少对数据库的压力。

疑问

一般像量比较大的电商项目都采取哪种方式来实现?比较稳固可靠?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

梦里人 2022-09-19 13:32:35

这种一般来说数据都放入到es中,然后有后台离线计算项目处理

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文