K8S實戰（七）| 有狀態應用之 MySQL 集羣

前言

本節使用 StatefulSet 控制器部署一個 MySQL 集羣，而後進行宕機測試，觀察集羣是否能夠正常恢復使用而且不丟失數據。

實現的集羣有以下特徵：

1. 是一個主從複製的 MySQL 集羣
2. 1 個主節點， 多個從節點
3. 從節點可以水平擴展
4. 全部的寫操做，只能在主節點上執行
5. 讀操做能夠在全部節點上執行

更新歷史

• 20200615 - 初稿 - 左程立
• 原文地址 - https://blog.zuolinux.com/2020/06/15/statefulset-mysql-cluster.html

所需服務資源

所需資源爲：

• 一個 ConfigMap
• 兩個 Service
• 一個 StatefulSet

ConfigMap

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-configmap.yaml

Service

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-services.yaml

MySQL StatefulSet

wget https://k8s.io/examples/application/mysql/mysql-statefulset.yaml

修改 mysql-statefulset.yaml， 使用上一節建立的 NFS 動態存儲卷

volumeClaimTemplates:
  - metadata:
      name: data
      annotations:
        volume.beta.kubernetes.io/storage-class: managed-nfs-storage
    spec:
      accessModes: ["ReadWriteOnce"]
      resources:
        requests:
          storage: 1Gi

建立 MySQL 有狀態應用

kubectl apply mysql-statefulset.yaml

寫入數據測試

寫入數據

kubectl run mysql-client --image=mysql:5.7 -i --rm --restart=Never --  mysql -h mysql-0.mysql <<EOFCREATE DATABASE test;
CREATE TABLE test.messages (message VARCHAR(250));
INSERT INTO test.messages VALUES ('hello');
EOF

檢查從機是否能夠讀取到數據

kubectl run mysql-client --image=mysql:5.7 -i -t --rm --restart=Never --  mysql -h mysql-read -e "SELECT * FROM test.messages"

循環讀取，能夠看到server-id不斷變化，說明每次從不一樣機器讀取數據

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

宕機測試

將 mysql-2 模擬宕機

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql /usr/bin/mysql.off

從循環讀取 SELECT @@server_id 中將看不到 server-id 102 服務器的記錄

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

恢復節點 mysql-2 後，service-id 102 將出如今循環記錄中

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql.off /usr/bin/mysql

擴展從節點數量

[root@master01 ~]# kubectl scale statefulset mysql  --replicas=5
statefulset.apps/mysql scaled

[root@master01 ~]# kubectl get pods -l app=mysql --watch
NAME      READY   STATUS     RESTARTS   AGE
mysql-0   2/2     Running    0          29m
mysql-1   2/2     Running    0          28m
mysql-2   2/2     Running    1          24m
mysql-3   0/2     Init:1/2   0          9s
mysql-3   1/2     Running           0          44s
mysql-3   2/2     Running           1          55s
......
mysql-4   0/2     Pending           0          3s
mysql-4   0/2     Init:0/2          0          3s
mysql-4   0/2     Init:1/2          0          7s
mysql-4   0/2     PodInitializing   0          43s
mysql-4   1/2     Running           0          46s
mysql-4   1/2     Running           1          51s
mysql-4   2/2     Running           1          56s

[root@master01 ~]# kubectl get pod -l app=mysql
NAME      READY   STATUS    RESTARTS   AGE
mysql-0   2/2     Running   0          32m
mysql-1   2/2     Running   0          31m
mysql-2   2/2     Running   1          28m
mysql-3   2/2     Running   1          3m22s
mysql-4   2/2     Running   1          2m27s

擴容成功後，server-id 103/104 也將出如今 select @@server_id 的執行結果中。

基本原理

首先經過 ConfigMap 引用提早準備的 MySQL 主節點配置文件和 從節點配置文件。

而後定義了兩個 Service，一個是 mysql，一個是 mysql-read。

第一個 MySQL Service 是 headless service，不會作負載均衡和流量分配，只會給每一個 Pod 分配一個 DNS 名稱，因爲 StatefulSet 管理的 Pod 名稱是固定的，因此 Pod DNS 名稱也會是固定的。

這樣程序能夠找到 MySQL 主服務器 mysql-0.mysql，進行數據的寫入。

第二個 Service 是一個正常 Service，用於提供讀操做。將讀操做代理到後端所有 Pod。

下面就能夠進行 MySQL 的自動安裝了。

因爲 Pod 名稱是固定的，因此始終將 mysql-0 做爲主節點，Pod-1 -2 -3 爲從節點。

當一個 Pod 啓動以前，它會執行兩個初始化容器，第一個 init 容器用來拷貝本身要使用的配置文件，第二個 init 容器用來從前一個 Pod 中克隆數據，固然若是是主節點就能夠跳過克隆這一步了。

最後就能夠啓動各自的應用容器了，而 slave 容器須要一個掛斗容器 xtrabackup 來配合進行數據的初始化。

結束語

今天經過 K8S 搭建了 mysql 主從，將數據進行了持久化存儲。

Pod 宕機後可以自動恢復原有秩序，同時原有數據不會丟失。

聯繫我

微信公衆號：zuolinux_com