SpringBoot Kafka 整合使用

轉載請務必註明原創地址爲：http://www.54tianzhisheng.cn/2018/01/05/SpringBoot-Kafka/

前提

假設你瞭解過 SpringBoot 和 Kafka。

一、SpringBoot

若是對 SpringBoot 不瞭解的話，建議去看看 DD 大佬 和 純潔的微笑 的系列博客。

二、Kafka

Kafka 的話能夠看看我前兩天寫的博客 ： Kafka 安裝及快速入門 學習的話本身開臺虛擬機本身手動搭建環境吧，有條件的買服務器。

注意：必定要親自本身安裝實踐，接下來咱們將這兩個進行整合。

建立項目

項目總體架構：

使用 IDEA 建立 SpringBoot 項目，這個很簡單了，這裏不作過多的講解。

一、pom 文件代碼以下：

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.zhisheng</groupId>
    <artifactId>kafka-learning</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <packaging>jar</packaging>

    <name>kafka-learning</name>
    <description>Demo project for Spring Boot + kafka</description>

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>1.5.9.RELEASE</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>

    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
        <java.version>1.8</java.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>

        <dependency>
            <groupId>org.springframework.kafka</groupId>
            <artifactId>spring-kafka</artifactId>
            <version>1.1.1.RELEASE</version>
        </dependency>

        <dependency>
            <groupId>com.google.code.gson</groupId>
            <artifactId>gson</artifactId>
            <version>2.8.2</version>
        </dependency>

    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>

</project>

主要引入了 spring-kafka 、lombok 、 gson 依賴。

二、消息實體類 Message.java 以下：

@Data
public class Message {
    private Long id;    //id

    private String msg; //消息

    private Date sendTime;  //時間戳

}

三、消息發送類 KafkaSender.java

@Component
@Slf4j
public class KafkaSender {

    @Autowired
    private KafkaTemplate<String, String> kafkaTemplate;

    private Gson gson = new GsonBuilder().create();

    //發送消息方法
    public void send() {
        Message message = new Message();
        message.setId(System.currentTimeMillis());
        message.setMsg(UUID.randomUUID().toString());
        message.setSendTime(new Date());
        log.info("+++++++++++++++++++++  message = {}", gson.toJson(message));
        kafkaTemplate.send("zhisheng", gson.toJson(message));
    }
}

就這樣，發送消息代碼就實現了。

這裏關鍵的代碼爲 kafkaTemplate.send() 方法，zhisheng 是 Kafka 裏的 topic ，這個 topic 在 Java 程序中是不須要提早在 Kafka 中設置的，由於它會在發送的時候自動建立你設置的 topic， gson.toJson(message) 是消息內容，這裏暫時先說這麼多了，不詳解了，後面有機會繼續把裏面源碼解讀寫篇博客出來（由於中途碰到坑，老子跟了幾遍源碼）。

四、消息接收類 KafkaReceiver.java

@Component
@Slf4j
public class KafkaReceiver {

    @KafkaListener(topics = {"zhisheng"})
    public void listen(ConsumerRecord<?, ?> record) {

        Optional<?> kafkaMessage = Optional.ofNullable(record.value());

        if (kafkaMessage.isPresent()) {

            Object message = kafkaMessage.get();

            log.info("----------------- record =" + record);
            log.info("------------------ message =" + message);
        }

    }
}

客戶端 consumer 接收消息特別簡單，直接用 @KafkaListener 註解便可，並在監聽中設置監聽的 topic ，topics 是一個數組因此是能夠綁定多個主題的，上面的代碼中修改成 @KafkaListener(topics = {"zhisheng","tian"}) 就能夠同時監聽兩個 topic 的消息了。須要注意的是：這裏的 topic 須要和消息發送類 KafkaSender.java 中設置的 topic 一致。

五、啓動類 KafkaApplication.java

@SpringBootApplication
public class KafkaApplication {

    public static void main(String[] args) {

        ConfigurableApplicationContext context = SpringApplication.run(KafkaApplication.class, args);

        KafkaSender sender = context.getBean(KafkaSender.class);

        for (int i = 0; i < 3; i++) {
            //調用消息發送類中的消息發送方法
            sender.send();

            try {
                Thread.sleep(3000);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }
}

六、配置文件 application.properties

#============== kafka ===================
# 指定kafka 代理地址，能夠多個
spring.kafka.bootstrap-servers=192.168.153.135:9092

#=============== provider  =======================

spring.kafka.producer.retries=0
# 每次批量發送消息的數量
spring.kafka.producer.batch-size=16384
spring.kafka.producer.buffer-memory=33554432

# 指定消息key和消息體的編解碼方式
spring.kafka.producer.key-serializer=org.apache.kafka.common.serialization.StringSerializer
spring.kafka.producer.value-serializer=org.apache.kafka.common.serialization.StringSerializer

#=============== consumer  =======================
# 指定默認消費者group id
spring.kafka.consumer.group-id=test-consumer-group

spring.kafka.consumer.auto-offset-reset=earliest
spring.kafka.consumer.enable-auto-commit=true
spring.kafka.consumer.auto-commit-interval=100

# 指定消息key和消息體的編解碼方式
spring.kafka.consumer.key-deserializer=org.apache.kafka.common.serialization.StringDeserializer
spring.kafka.consumer.value-deserializer=org.apache.kafka.common.serialization.StringDeserializer

spring.kafka.bootstrap-servers 後面設置你安裝的 Kafka 的機器 IP 地址和端口號 9092。

若是你只是簡單整合下，其餘的幾個默認就行了。

Kafka 設置

在你安裝的 Kafka 目錄文件下：

啓動 zk

使用安裝包中的腳本啓動單節點 Zookeeper 實例：

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

啓動 Kafka 服務

使用 kafka-server-start.sh 啓動 kafka 服務：

bin/kafka-server-start.sh  config/server.properties

啓動成功後！

千萬注意： 記得將你的虛擬機或者服務器關閉防火牆或者開啓 Kafka 的端口 9092。

運行

出現這就表明整合成功了！

---

咱們看下 Kafka 中的 topic 列表就

bin/kafka-topics.sh --list --zookeeper localhost:2181

就會發現剛纔咱們程序中的 zhisheng 已經本身建立了。

關注我