Kafka可视化工具 客户端工具Offset Explorer web端工具EFAK
·
0.网页控制台
Offset Explorer 连接kafka 查看某个topic 队列里的json内容, 如果已经被消费了, 依然能查看到 ,为什么?
触及了 Kafka 一个非常核心且巧妙的设计理念。简单来说,消息被消费后并不会立即从 Kafka 中删除。
为了让你更清晰地理解这背后的原理和各个环节,下面我用一个表格来梳理关键概念,然后再详细解释其工作机制。
核心概念 |
解释 |
与查看历史消息的关系 |
---|---|---|
消息留存机制 |
Kafka 将消息持久化存储在磁盘上,并根据时间(默认7天)或日志大小策略进行清理,而非依据是否被消费 |
根本原因:只要消息在留存期内,即使已被消费,也依然物理存在于磁盘上。 |
消费者偏移量 (Offset) |
一个用于记录消费者组在每个分区中当前消费位置的元数据 |
关键区别:消费行为只是更新这个“书签”,而非删除消息。Offset Explorer 查看消息不受此“书签”限制。 |
__consumer_offsets Topic |
Kafka 内部的一个特殊主题,专门用于保存所有消费者组的偏移量数据 |
角色:存储消费进度,与消息本身存储位置完全分离。 |
1.自动创建:Kafka 也支持在消息生产者第一次发送消息到一个不存在的主题时,自动创建该主题。这种方式默认启用,但它依赖于 Kafka 的 auto.create.topics.enable
配置项,默认值是 true
。这种方式并不推荐用于生产环境,因为自动创建的主题配置通常不够灵活,可能会带来一些潜在的配置问题。
2.Kafka可视化工具 创建topic, 页面中指定主题的名称、分区数、副本数
- 分区数为 3:这个主题有 3 个分区。每个分区的数据将分散在不同的 Kafka broker 上。
- 副本数为 2:每个分区会有 2 个副本,也就是在不同的 broker 上会存储该分区的数据副本。即使一个 broker 失败,数据依然可以从其他副本恢复。
数据的存储是基于 主题(Topic) 和 分区(Partition) 的
Kafka是一个高可靠性的分布式消息系统,广泛应用于大规模数据处理和实时, 为了更方便地管理和监控Kafka集群,开发人员和运维人员经常需要使用可视化工具。
1. Offset Explorer 下载地址
2.使用Offset Explorer 3.0.1 连接kafka集群
3.查看值是Byte Array不是Json怎么办?
更多推荐
所有评论(0)