Knative 實戰:基於 Kafka 實現消息推送

1

做者 | 元毅 阿里雲智能事業羣高級開發工程師html

導讀:當前在 Knative 中已經提供了對 Kafka 事件源的支持,那麼如何基於 Kafka 實現消息推送呢?本文做者將以阿里雲 Kafka 產品爲例,給你們解鎖這一新的姿式。json

背景

消息隊列 for Apache Kafka 是阿里雲提供的分佈式、高吞吐、可擴展的消息隊列服務。消息隊列 for Apache Kafka 普遍用於日誌收集、監控數據聚合、流式數據處理、在線和離線分析等大數據領域,已成爲大數據生態中不可或缺的部分。bootstrap

結合 Knative  中提供了 KafkaSource 事件源的支持, 能夠方便的對接 Kafka 消息服務。api

另外也能夠安裝社區 Kafka 2.0.0 及以上版本使用。微信

在阿里雲上建立 Kafka 實例

建立 Kafka 實例

登陸消息隊列 Kafka 控制檯, 選擇【購買實例】。因爲當前 Knative 中 Kafka 事件源支持 2.0.0 及以上版本,在阿里雲上建立 Kafka 實例須要選擇包年包月、專業版本進行購買,購買以後升級到 2.0.0 便可。app

2

部署實例並綁定 VPC

購買完成以後,進行部署,部署時設置 Knative 集羣所在的 VPC 便可:less

3

建立 Topic 和 Consumer Group

接下來咱們建立 Topic 和消費組。<br />進入【Topic 管理】,點擊 建立 Topic, 這裏咱們建立名稱爲 demo 的 topic:分佈式

4

進入【Consumer Group 管理】,點擊 建立 Consumer Group, 這裏咱們建立名稱爲 demo-consumer 的消費組:函數

5

部署 Kafka 數據源

部署 Kafka addon 組件

登陸容器服務控制檯,進入【Knative 組件管理】,部署 Kafka addon 組件。微服務

6

建立 KafkaSource 實例

首先建立用於接收事件的服務 event-display:

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: event-display
spec:
  template:
    spec:
      containers:
      - image: registry.cn-hangzhou.aliyuncs.com/knative-sample/eventing-sources-cmd-event_display:bf45b3eb1e7fc4cb63d6a5a6416cf696295484a7662e0cf9ccdf5c080542c21d

接下來建立 KafkaSource:

apiVersion: sources.eventing.knative.dev/v1alpha1
kind: KafkaSource
metadata:
  name: alikafka-source
spec:
  consumerGroup: demo-consumer
  # Broker URL. Replace this with the URLs for your kafka cluster,
  # which is in the format of my-cluster-kafka-bootstrap.my-kafka-namespace:9092.
  bootstrapServers: 192.168.0.6x:9092,192.168.0.7x:9092,192.168.0.8x:9092
  topics: demo
  sink:
    apiVersion: serving.knative.dev/v1alpha1
    kind: Service
    name: event-display

說明:

  • bootstrapServers: Kafka VPC 訪問地址
  • consumerGroup: 設置消費組
  • topics:設置 Topic

建立完成以後,咱們能夠查看對應的實例已經運行:

[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl get pods
NAME                                    READY   STATUS    RESTARTS   AGE
alikafka-source-k22vz-db44cc7f8-879pj   1/1     Running   0          8h

<a name="cd8992b6"></a>

驗證

在 Kafka 控制檯,選擇 topic 發送消息,注意這裏的消息格式必須是 json 格式:

7

咱們能夠看到已經接收到了發送過來的 Kafka 消息:

[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl logs event-display-zl6m5-deployment-6bf9596b4f-8psx4 user-container

☁️  CloudEvent: valid ✅
Context Attributes,
  SpecVersion: 0.2
  Type: dev.knative.kafka.event
  Source: /apis/v1/namespaces/default/kafkasources/alikafka-source#demo
  ID: partition:7/offset:1
  Time: 2019-10-18T08:50:32.492Z
  ContentType: application/json
  Extensions: 
    key: demo
Transport Context,
  URI: /
  Host: event-display.default.svc.cluster.local
  Method: POST
Data,
  {
    "key": "test"
  }

<a name="5db9fd7c"></a>

小結

結合阿里雲 Kafka 產品,經過事件驅動觸發服務(函數)執行,是否是簡單又高效。這樣咱們利用 Knative 得以把雲原生的能力充分釋放出來,帶給咱們更多的想象空間。歡迎對 Knative 感興趣的一塊兒交流。

實操視頻演示連接:https://v.qq.com/x/page/d3013wzs3tp.html

做者簡介:元毅,阿里雲容器平臺高級開發工程師,負責阿里雲容器平臺 Knative 相關工做。


歡迎加入 Knative 交流羣

8

「 阿里巴巴雲原生微信公衆號(ID:Alicloudnative)關注微服務、Serverless、容器、Service Mesh等技術領域、聚焦雲原生流行技術趨勢、雲原生大規模的落地實踐,作最懂雲原生開發者的技術公衆號。」

相關文章
相關標籤/搜索