从多个主题中从同一分区中检索数据
在我们当前的系统中,我们有4个主题 主题1(20),主题2(20),主题3(20),主题4(20) 生产者方面我们已经应用了自定义iDpartitioner,它 public …
KAFKA:处理需要网络呼叫的消息时提高性能
这是场景。 我的kafka消费者消费了一个主题中的消息。 消费者应在正确处理后,应手动提交偏移( enable.auto.commit = false )。 处理每条消息需要一…
连接到MongoDB的Kafka消费者
我有Kafka消费者服务 @KafkaListener( topics = "topic1", groupId = "cluster1", containerFactory = "KafkaListenerContainerFactory") public void…
如何在春季云流kafka流中使用多路复用输入主题求解无效的感受?
I wrote a Spring Cloud Streams Kafka Streams Binder application that has multiple Kafka input topics multiplexed to one stream with: spring:…
使用Docker容器设置现有KAFKA ETL管道的实时仪表板/可视化
我经过建议,建议或建议,以建立使用Kafka的现有Dockerized ETL管道的实时仪表板/可视化。 ETL由以下内容组成: 提取服务 - 生产者/订户 转换服务 - …
如果我的团队将为jar库提供模型,我是否需要架构注册表?
我们将以 kafka 和协议缓冲区作为数据格式开始新项目。 看起来 Contruent 提供的序列化器/求职者正在假设 schema-registy ,但是由于我的团队每当模型…
配置KAFKA双向SSL后,协议仍然是TCP
在配置使用双向SSL的KAFKA(KAFKA_2.13-2.4.1)之后,根据文档,当由kafka-console-producer.sh发送消息时,可以由消费者(Kafka-Console-Consumer.sh…
无法找到任何实现连接器的类,哪个名称与FileStreamSource匹配
我遵循Kafka快速入门指南。不过,我被卡在第6步中,将数据导入/导出您的数据作为事件流... https:// kafka.apache.org/documentation/ 错误表明kafka…
如何使用源连接器在KAFKA主题上配置事件密钥
有一个带有架构的现有Kafka主题,我想将事件从具有不同属性的另一个表流传输到使用变换的现有主题。我使用Renamefield SMT避免模式不匹配问题,但这无…
如何查询kafka中的最新偏移 /分区 /时间戳以获取主题中给定键的最新消息
我如何查询kafka并获取给定主题和消息密钥的最新消息的时间戳/偏移/分区? 我们的应用在Golang和Java中。但是,欢迎任何解决方案。 提前致谢。…
kafka和Zookeeper豆荚在Kubernetes群集上反复重新启动
我正在开发由Kubernetes为大学项目部署的基于微服务的应用程序。我是Kubernetes和Kafka的新手,我正在尝试在同一Minikube群集中运行Kafka和Zookeeper…
kafka debezium连接问题
从Debezium到MSK,我一直面临问题,向我显示错误 SyncGroup failed: The coordinator is not available. Marking coordinator unknown. Sent generati…
使用mongo/kafka的事件触发器
我有一个带有日历事件的集合的MongoDB实例。这是使用KAFKA应用程序喂养的。 这些事件需要使用Kafka流进行进来,然后使用Kafka流,但是我想忘记的是,…
将Flink Kafka与模式注册表集成
我们正在使用汇合平台进行Kafka部署。我们正在使用模式注册表来存储模式。是否可以将模式注册表与Flink集成?如何从Confluent平台读取AVRO格式的数据…
卡夫卡制作人重试,失败的记录处理
我的要求如下 - 除了经纪人元数据相关错误之外,我尝试模拟 recordToolargeException ,同时将消息发送到Kafka主题。 对于生产者配置,我添加 ack:AL…