【kafka】消费者对应的分配partition分区策略

一个topic有多个partition,且partition分布在多个broker上一个消费组有多个consumer

这种设计让一个topic的消息能够分散存储到多个broker服务器里的partition分区中,消费组里面的消费者又可以同时消费不同的partition分区。
解决问题:
1.实现了负载均衡(分布在多个broker上,可以同时对外提供服务)。
2.多消费者并发消费,提升kafka的吞吐量。


消费者的分区策略:

现有两个主题topic1、topic2,各自都有三个partition。两个消费者

[topic1_partition0,topic1_partition1,topic1_partition2]
[topic2_partition0,topic2_partition1,topic2_partition2]

  • RoundRobin 轮询,按照消费组来份,需要消费者组里面的所有的消费者订阅同一个主题。
TopicAndPartition(string Topic,integer Partition);

TopicAndPartition对象,多个主题整体排序
[topic1_partition0,topic1_partition1,topic1_partition2,topic2_partition0,topic2_partition1,topic2_partition2]

优点:多个消费者消费分区最多相差一个,相对均衡。

问题:consumer1可能完全被分配到Topic1,Consumer2完全消费Topic2。

总结:轮询是按照消费者组来划分的,需要保证当前消费组里面的消费者订阅同一个topic。

  • Range 范围,按照topic主题来分划分。

consumer1 消费 topic1_partition0,topic1_partition1,
consumer2消费 topic1_partition2
consumer1再消费topic2_partition0,topic2_partition1
consumer2再消费topic2_partition2

问题:consumer2消费的少
总结:范围是按照主题来划分的。

  • kafka默认采用的是range范围

  • 什么时候会触发策略?
    消费者组里面的消费者的数量发生改变的时候(增加/减少消费者),重触发重新分配策略。

相关推荐