0.网页控制台

Offset Explorer 连接kafka 查看某个topic 队列里的json内容, 如果已经被消费了, 依然能查看到 ,为什么?

触及了 Kafka 一个非常核心且巧妙的设计理念。简单来说,​​消息被消费后并不会立即从 Kafka 中删除​​。

为了让你更清晰地理解这背后的原理和各个环节,下面我用一个表格来梳理关键概念,然后再详细解释其工作机制。

核心概念

解释

与查看历史消息的关系

​消息留存机制​

Kafka 将消息持久化存储在磁盘上,并根据​​时间​​(默认7天)或​​日志大小​​策略进行清理,而非依据是否被消费

​根本原因​​:只要消息在留存期内,即使已被消费,也依然物理存在于磁盘上。

​消费者偏移量 (Offset)​

一个用于记录消费者组在每个分区中​​当前消费位置​​的元数据

​关键区别​​:消费行为只是更新这个“书签”,而非删除消息。Offset Explorer 查看消息不受此“书签”限制。

​__consumer_offsets Topic​

Kafka 内部的一个特殊主题,专门用于保存所有消费者组的偏移量数据

​角色​​:存储消费进度,与消息本身存储位置完全分离。

1.自动创建:Kafka 也支持在消息生产者第一次发送消息到一个不存在的主题时,自动创建该主题。这种方式默认启用,但它依赖于 Kafka 的 auto.create.topics.enable 配置项,默认值是 true。这种方式并不推荐用于生产环境,因为自动创建的主题配置通常不够灵活,可能会带来一些潜在的配置问题。

2.Kafka可视化工具 创建topic, 页面中指定主题的名称、分区数、副本数

  • 分区数为 3:这个主题有 3 个分区。每个分区的数据将分散在不同的 Kafka broker 上。
  • 副本数为 2:每个分区会有 2 个副本,也就是在不同的 broker 上会存储该分区的数据副本。即使一个 broker 失败,数据依然可以从其他副本恢复。

数据的存储是基于 主题(Topic)分区(Partition)

Kafka是一个高可靠性的分布式消息系统,广泛应用于大规模数据处理和实时, 为了更方便地管理和监控Kafka集群,开发人员和运维人员经常需要使用可视化工具。

1. Offset Explorer  下载地址

 2.使用Offset Explorer 3.0.1 连接kafka集群

3.查看值是Byte Array不是Json怎么办?

 

Logo

永洪科技,致力于打造全球领先的数据技术厂商,具备从数据应用方案咨询、BI、AIGC智能分析、数字孪生、数据资产、数据治理、数据实施的端到端大数据价值服务能力。

更多推荐