Kafka中的 ISR(InSyncRepli)、 OSR(OutSyncRepli)、 AR(AllRepli)代表什么?
ISR:与 leader保持同步的follower集合
AR:分区的所有副本
Kafka中的 HW、 LEO等分别代表什么?
LEO:没个副本的最后条消息的offset
HW:一个分区中所有副本最小的offset
Kafka中是怎么体现消息顺序性的?
每个分区内,每条消息都有一个offset,故只能保证分区内有序。
Kafka中的分区器、序列化器、拦截器是否了解?它们之间的处理顺序是什么?
拦截器 -> 序列化器 -> 分区器
Kafka生产者客户端的整体结构是什么样子的?使用了几个线程来处理?分别是什么?
“消费组中的消费者个数如果超过 topic的分区,那么就会有消费者消费不到数据”这句话是否正确?
正确
消费者提交消费位移时提交的是当前消费到的最新消息的 offset还是 offset+1
offset+1
有哪些情形会造成重复消费?
那些情景会造成消息漏消费?
先提交offset,后消费,有可能造成数据的重复
当你使用kafka-topics.sh 创建(删除)了一个topic 之后,Kafka 背后会执行什么逻辑?
1)会在zookeeper中的/brokers/topics节点下创建一个新的topic节点,如:/brokers/topics/first
2)触发Controller的监听程序
3)kafka Controller 负责topic的创建工作,并更新metadata cache
topic 的分区数可不可以增加?如果可以怎么增加?如果不可以,那又是为什么?
可以增加
bin/kafka-topics.sh —zookeeper localhost:2181/kafka —alter —topic topic-config —partitions 3
topic 的分区数可不可以减少?如果可以怎么减少?如果不可以,那又是为什么?
不可以减少,现有的分区数据难以处理。
Kafka 有内部的topic 吗?如果有是什么?有什么所用?
__consumer_offsets,保存消费者offset
Kafka 分区分配的概念?
一个topic多个分区,一个消费者组多个消费者,故需要将分区分配个消费者(roundrobin、range)
简述Kafka 的日志目录结构?
每个分区对应一个文件夹,文件夹的命名为topic-0,topic-1,内部为.log和.index文件
如果我指定了一个offset,Kafka Controller 怎么查找到对应的消息?
聊一聊Kafka Controller 的作用?
负责管理集群broker的上下线,所有topic的分区副本分配和leader选举等工作
Kafka 中有那些地方需要选举?这些地方的选举策略又有哪些?
partition leader(ISR),controller(先到先得)
失效副本是指什么?有那些应对措施?
不能及时与leader同步,暂时踢出ISR,等其追上leader之后再重新加入
Kafka 的哪些设计让它有如此高的性能?
分区,顺序写磁盘,0-copy