CDC 和 ETL 帮助/建议

发布于 2024-08-22 22:59:33 字数 285 浏览 4 评论 0原文

这是背景。

我们有几个不同的客户,每个客户都有不同的后端源数据库。我们希望返回来获取后端数据库的实时更改,然后将数据转换为目标数据库中的目标模式。之后,向其他应用程序广播一条消息,提醒更改。

为此,我们需要 CDC 软件来进行变更检测,然后需要一个良好的 ETL 工具来转换数据并将其加载到目标数据库中。

到目前为止,我们已经了解了 IBM 的 CDC。研究仍处于初步阶段,但我只是想了解其他人对此的看法。您为此推荐哪些程序?我们是否以正确的方式解决这个问题......这意味着 CDC 软件是否杀伤力过大?

Here's the background.

We have a few different customers, each with a different backend source database. We want to be back to pick up real time changes to the backend database, then transform the data to a target schema in our target database. After that broadcast a message to other apps alerting the change.

To do this we need CDC software for the change detection and then a good ETL tool to transform and load the data into the target database.

So far we have looked at IBM's CDC. Research is still in the preliminary stages but I just wanted to get other people's take on this. What programs do you recommend for this? Are we even going about this the right way...meaning is CDC software overkill?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

把回忆走一遍 2024-08-29 22:59:33

大多数数据库都有某种内置的 CDC 机制(Oracle 确实如此)。我会考虑应用发布/订阅模式并使每个数据库成为发布者并让目标订阅所有更改。其他应用程序也可以订阅进一步的通知。 NServiceBus 是这种通信的一个不错的选择。如果您不想使用本机 DB CDC 机制,那么您可以做一些原始的事情并构建一些东西来检测每个数据库供应商的更改(触发器、检查重做日志或其他)。

Most databases have some sort of built-in CDC mechanism(Oracle does for sure). I would consider applying the Pub/Sub pattern and making each DB a publisher and have the target subscribe to all of changes. Other apps could also subscribe to further notifications. NServiceBus is a good option for this kind of communication. If you don't want to use a native DB CDC mechanism then you could do something primitive and build something to detect changes per DB vendor(triggers, inspecting redo logs, or other).

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文