python kafka多線程消費數據

一、打印每一個線程id，知足預期，開啓了8個線程，每一個線程號都不同；

 

二、查看kafka狀態，也能知足預期，每一個分區的消費者id都是不同的，下面第二個圖是開啓一個消費者時的狀態，每一個分區的消費者id都是相同的；對比之下能知足需求；

 

 

 

 

三、相關代碼以下：

from kafka import KafkaConsumer
import time, threading
from concurrent.futures import ThreadPoolExecutor


class ThreadKafka(object):

    def __init__(self):
        self.threadPool = ThreadPoolExecutor(max_workers=8, thread_name_prefix="threading_")
        self.hosts = ["ip:port", "ip:port", "ip:port"]

    def operate(self):
        consumer = KafkaConsumer("topic_name", bootstrap_servers=self.hosts, group_id="group_id_name")
        print(threading.current_thread().name)
        for i in consumer:
            print(i)
            time.sleep(1)

    def main(self):
        for i in range(8):
            self.threadPool.submit(self.operate, )


if __name__ == '__main__':
    cla = ThreadKafka()
    cla.main()