kafka2.0.0第一課 部署配置啓動

1）背景

軟件版本2.0.0

        Released July 30, 2018

        Release Notes

        Source download: kafka-2.0.0-src.tgz (asc, sha512)

        Binary downloads:We build for multiple versions of Scala. This only matters if you are using Scala and you want a version      built for the same Scala version you use. Otherwise any version should work (2.11 is recommended).

Scala 2.11  - kafka_2.11-2.0.0.tgz (asc, sha512)

Scala 2.12  - kafka_2.12-2.0.0.tgz (asc, sha512)

軟件下載地址    http://kafka.apache.org/downloads.html

下載安裝包      kafka_2.11-2.0.0.tgz

2）部署

cd  kafka_2.11-2.0.0

chmod a+x  bin/*  //賦予服務器腳本運行須要的執行權限

vi config/server.properties  //配置服務器的IP地址，若是是默認的localhost只可以在本機器使用，其餘的外網連接不上

listeners=PLAINTEXT://192.168.58.121:9092  //修改內容如左

firewall-cmd --zone=public --add-port=9092/tcp --permanent   # 開放9092端口

firewall-cmd --reload   # 配置當即生效

3）啓動

bin/zookeeper-server-start.sh config/zookeeper.properties &

bin/kafka-server-start.sh config/server.properties

//另外啓動兩個控制檯程序，做爲生成者發送數據

 bin/kafka-console-producer.sh --broker-list 192.168.58.121:9092 --topic test//生產者往主題test發送數據,出現>能夠輸入發送數據

>

//消費者消費數據

bin/kafka-console-consumer.sh --bootstrap-server 192.168.58.121:9092 --topic test --from-beginning //接收數據

注意：

1）

[2020-05-18 11:52:07,986] WARN [Producer clientId=console-producer] Connection to node 0 could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)

本地環境測試啓動生產者說明服務broker沒有啓動

2）檢測服務器是否配置正確的IP地址和開放端口

%3|1589772697.411|FAIL|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 192.168.58.121:9092/bootstrap: Connect to ipv4#192.168.58.121:9092 failed: 因爲鏈接方在一段時間後沒有正確答覆或鏈接的主機沒有反應，鏈接嘗試失敗。

%3|1589772699.520|ERROR|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 192.168.58.121:9092/bootstrap: Connect to ipv4#192.168.58.121:9092 failed: 因爲鏈接方在一段時間後沒有正確答覆或鏈接的主機沒有反應，鏈接嘗試失敗。

%3|1589772699.528|ERROR|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 1/1 brokers are down

3）bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

zookeeper is not a recognized option

Kafka 從 2.2 版本開始將 kafka-topic.sh 腳本中的 −−zookeeper 參數標註爲 「過期」，推薦使用 −−bootstrap-server 參數。若讀者依舊使用的是 2.1 及如下版本，請將下述的 --bootstrap-server 參數及其值手動替換爲 --zookeeper zk1:2181,zk2:2181,zk:2181。必定要注意二者參數值所指向的集羣地址是不一樣的。