使用Load Alancer复制从AWS Kafka到Contruent Kafka的Kafka数据

发布于 2025-01-17 11:27:53 字数 663 浏览 5 评论 0原文

我有一个用例,用于将 Kafka 主题和数据从 AWS 中的一个 Kafka 集群复制到部署在 AWS 上的 Confluence Kafka。问题是,我在 AWS 中的 Kafka 部署在 VPC 中,例如 VPC-1,它不允许 VPC 与融合云对等。我需要使用部署在另一个 VPC(例如 VPC-2)中的 负载均衡器/代理 服务,该服务与 VPC-1 和 Confluence Kafka 集群 VPC 对等(VPC- 3)。此外,VPC-3 与 VPC-1 对等。将负载均衡器设置为指向 AWS VPC-1 以便将数据复制到 Confluence 云 kafka 的想法是什么?以下是 VPC 的对等互连方式,我需要在 VPC-2 上运行一些东西,并将数据从 Confluence Kafka 转发到 VPC-1 中的 Kafka。源Kafka中的数据每天有几百GB。

输入图片此处描述

I have a use case to replicate Kafka topics and data from one Kafka cluster in AWS to Confluent Kafka deployed on AWS. The issue is, my Kafka in AWS is deployed in a VPC, say VPC-1 that dosent allow for VPC peering with confluent cloud. I need to use a Load balancer/Proxy service deployed in another VPC say VPC-2 that is peered with VPC-1 and Confluent Kafka cluster VPC (VPC-3). Also, VPC-3 is peered with VPC-1. What would be a idea Load balancer setup to point to AWS VPC-1 so that that data could be then replicated to Confluent cloud kafka? Below is how the VPC's are peered and I need something to run on VPC-2 and forward data from Confluent Kafka to Kafka in VPC-1. The data in source Kafka is few hundred GB per day.

enter image description here

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文