本文轉自Rancher Labsnode
本文將介紹在高可用K3s Kubernetes集羣上安裝Rancher 2.4的過程並針對MySQL利用Microsoft Azure數據庫的優點,該數據庫消除了對etcd的依賴,併爲咱們提供了Azure在這一服務中的全部其餘功能。mysql
在本文中,你將瞭解到只使用Azure Cloud Shell如何部署基礎架構以支持此方式。使用Cloud Shell的好處是零基礎架構便可上手——僅需訪問Azure門戶便可。而且許多所需的CLI功能已經預先安裝好,從而大大減小了完成安裝所需的工做量。git
你部署完成基礎架構後,你將瞭解如何使用K3s在一個Kubernetes集羣上部署Rancher 2.4。在Rancher 2.4中,咱們已經添加了新的部署支持模式:在兩個節點上的Rancher 2.4運行帶有外部數據庫的K3s。使用這一模式的好處之一是咱們能夠將節點視爲短暫的。因爲K3s支持外部MySQL數據庫,所以咱們能夠作到這一點。github
K3s是一個輕量的Kubernetes發行版,它比Rancher Kubernetes Engine(RKE)更先進,而且具備如下加強功能:sql
嵌入式SQLite數據庫替換了etcd,成爲默認的數據存儲,它還支持外部數據存儲,例如PostgreSQL、MySQL和etcd。(本文中咱們將使用MySQL)docker
咱們添加了簡單但功能強大的「開箱即用」的功能,例如本地存儲程序、服務負載均衡器、Helm controller以及Traefik controller。shell
全部Kubernetes控制平面組件的操做都封裝在單個二進制文件和進程中。這使K3s能夠自動化和管理複雜的集羣操做,例如分發證書。數據庫
咱們移除了in-tree雲提供程序和存儲插件ubuntu
咱們已將外部依賴性降到最低(僅須要現代內核和cgroup掛載)。K3s軟件包須要依賴項,包括:Containerd、Flannel、CoreDNS和主機實用程序(iptables、socat等)緩存
若是你是第一次嘗試使用Rancher,能夠考慮這種部署模式。這頗有可能在以後成爲部署Rancher的首選方法,提早了解老是好的——尤爲是在Azure運行數據中心時。
爲了完成如下內容,你須要提早準備:
Microsoft帳號:Microsoft的登陸憑證。能夠是你的Azure Active Directory憑據,也能夠是普通的Outlook帳戶。
訪問一個Azure訂閱:能夠是免費試用/隨用隨付/也能夠是企業訂閱(https://azure.microsoft.com/en-us/free/ )
訪問Azure門戶(https://portal.azure.com/#home )
如下圖片展現了將要在Azure中建立的資源:
這兩個節點將放在單個子網(subnet)中的本身的vNet上。這些將在Azure負載平衡器的前面。MySQL數據庫將從外部的vNet提供,vNet由Microsoft託管。而後經過鏈接到子網的單個網絡安全組(NSG)保護節點。
咱們將只使用Azure Cloud Shell來配置在Azure中的K3s上運行Rancher所需的全部元素。在門戶中,單擊右上角的「Azure Cloud Shell」按鈕。該圖標中有大於符號和下劃線。
在Azure中,全部資源須要歸屬於某個資源組,因此咱們得先建立資源組。咱們將設置默認區域和資源組,以確保咱們全部的資源都會被建立到正確的位置。
請注意:我使用eastus2做爲個人區域,但你能夠根據自身須要進行更改。
az group create -l eastus2 -n RancherK3sResourceGroup az configure --defaults location=eastus2 group=RancherK3sResourceGroup
這些命令完成後,將在資源組內部建立網絡組件。其中包括帶有默認子網的vNet,咱們稍後將建立的兩個虛擬機(VM)的兩個公共IP,以及一個網絡安全組(NSG)。
az network vnet create --resource-group RancherK3sResourceGroup --name RancherK3sVnet --subnet-name RancherK3sSubnet az network public-ip create --resource-group RancherK3sResourceGroup --name RancherK3sPublicIP1 --sku standard az network public-ip create --resource-group RancherK3sResourceGroup --name RancherK3sPublicIP2 --sku standard az network nsg create --resource-group RancherK3sResourceGroup --name RancherK3sNSG1 az network nsg rule create -g RancherK3sResourceGroup --nsg-name RancherK3sNSG1 -n NsgRuleSSH --priority 100 \ --source-address-prefixes '*' --source-port-ranges '*' \ --destination-address-prefixes '*' --destination-port-ranges 22 --access Allow \ --protocol Tcp --description "Allow SSH Access to all VMS."
咱們在兩個VM上安裝K3s以後,咱們須要一個負載均衡器來提供彈性並防止VM故障。
首先,爲負載均衡器建立一個公共IP
az network public-ip create --resource-group RancherK3sResourceGroup --name RancherLBPublicIP --sku standard
接下來,使用健康的探針(probe)建立負載均衡器
az network lb create \ --resource-group RancherK3sResourceGroup \ --name K3sLoadBalancer \ --sku standard \ --public-ip-address RancherLBPublicIP \ --frontend-ip-name myFrontEnd \ --backend-pool-name myBackEndPool az network lb probe create \ --resource-group RancherK3sResourceGroup \ --lb-name K3sLoadBalancer \ --name myHealthProbe \ --protocol tcp \ --port 80
負載均衡器建立完成後,更新NSG。添加80和443端口,用於訪問Rancher Server,再添加一個6443端口,用於訪問K3s的Kubernetes API。
az network nsg rule create \ --resource-group RancherK3sResourceGroup \ --nsg-name RancherK3sNSG1 \ --name myNetworkSecurityGroupRuleHTTP \ --protocol tcp \ --direction inbound \ --source-address-prefix '*' \ --source-port-range '*' \ --destination-address-prefix '*' \ --destination-port-range 80 443 6443 \ --access allow \ --priority 200
如今以三個規則的形式添加負載均衡器配置。你須要一個用於端口80的規則和一個用於端口443的規則,以分散兩個VM上Rancher Server的負載。第三條規則用於端口6443,該端口可訪問在每一個VM上運行的Kubernetes API。
az network lb rule create \ --resource-group RancherK3sResourceGroup \ --lb-name K3sLoadBalancer \ --name myHTTPRule \ --protocol tcp \ --frontend-port 80 \ --backend-port 80 \ --frontend-ip-name myFrontEnd \ --backend-pool-name myBackEndPool \ --probe-name myHealthProbe az network lb rule create \ --resource-group RancherK3sResourceGroup \ --lb-name K3sLoadBalancer \ --name myHTTPSRule \ --protocol tcp \ --frontend-port 443 \ --backend-port 443 \ --frontend-ip-name myFrontEnd \ --backend-pool-name myBackEndPool \ --probe-name myHealthProbe az network lb rule create \ --resource-group RancherK3sResourceGroup \ --lb-name K3sLoadBalancer \ --name myHTTPS6443Rule \ --protocol tcp \ --frontend-port 6443 \ --backend-port 6443 \ --frontend-ip-name myFrontEnd \ --backend-pool-name myBackEndPool \ --probe-name myHealthProbe
使用K3s做爲Kubernetes發行版的好處之一是它支持etcd的替代版本,在本例中,咱們將使用Azure數據庫中的MySQL做爲數據庫。
要建立MySQL數據庫,請運行如下CLI命令。
首先讓咱們爲數據庫服務器的名稱建立一個變量,這樣可讓運行後續命令更加容易。注意數據庫服務器的名稱在整個Azure必須是惟一的,不然你將會在建立時出錯。
K3smysqlserver=<unique-myslq-server-name>
建立你的MySQL 服務器。若是名稱不是惟一的,將顯示錯誤。若是是,那麼使用新名稱更新變量,而後再次運行此命令。
az mysql server create --resource-group RancherK3sResourceGroup --name $K3smysqlserver --admin-user myadmin --admin-password Password1 --sku-name GP_Gen5_2 --version 5.7
建立防火牆規則以容許全部的Azure IP能夠訪問你的數據庫服務器。
az mysql server firewall-rule create --resource-group RancherK3sResourceGroup --server $K3smysqlserver --name "AllowAllWindowsAzureIps" --start-ip-address 0.0.0.0 --end-ip-address 0.0.0.0
爲現有的子網添加service endpoint。
az network vnet subnet update --vnet-name RancherK3sVnet --name RancherK3sSubnet --service-endpoints "Microsoft.Sql"
將vnet規則添加到數據庫訪問。
az mysql server vnet-rule create --server $K3smysqlserver --name MyK3sVNetRule \ -g RancherK3sResourceGroup --subnet RancherK3sSubnet --vnet-name RancherK3sVnet
爲數據庫通訊禁用TLS
az mysql server update --resource-group RancherK3sResourceGroup --name $K3smysqlserver --ssl-enforcement Disabled
在Azure Cloud Shell中已經安裝好MySQL CLI工具了。下一步是鏈接到MySQL服務器並建立一個數據庫。
鏈接到新的MySQL服務器。
mysql --host $K3smysqlserver.mysql.database.azure.com --user myadmin@$K3smysqlserver -p
檢查狀態,確保MySQL正在運行。
status
建立一個空的數據庫。
CREATE DATABASE kubernetes; SHOW DATABASES; exit
接下來,咱們將建立2個虛擬機並在它們上面安裝K3s。
建立全部網絡元素後,咱們能夠爲VM建立網絡接口卡(NIC)。
az network nic create --resource-group RancherK3sResourceGroup --name nic1 --vnet-name RancherK3sVnet --subnet RancherK3sSubnet --network-security-group RancherK3sNSG1 --public-ip-address RancherK3sPublicIP1 --lb-name K3sLoadBalancer --lb-address-pools myBackEndPool az network nic create --resource-group RancherK3sResourceGroup --name nic2 --vnet-name RancherK3sVnet --subnet RancherK3sSubnet --network-security-group RancherK3sNSG1 --public-ip-address RancherK3sPublicIP2 --lb-name K3sLoadBalancer --lb-address-pools myBackEndPool
要建立2個虛擬機,首先須要使用咱們的cloud-init配置建立一個文本文件。這將部署Docker、添加ubuntu用戶到docker組並安裝K3s。
cat << EOF > cloud-init.txt #cloud-config package_upgrade: true packages: - curl output: {all: '| tee -a /var/log/cloud-init-output.log'} runcmd: - curl https://releases.rancher.com/install-docker/18.09.sh | sh - sudo usermod -aG docker ubuntu - curl -sfL https://get.k3s.io | sh -s - server --datastore-endpoint="mysql://myadmin@$K3smysqlserver:Password1@tcp($K3smysqlserver.mysql.database.azure.com:3306)/kubernetes" EOF
部署虛擬機。
az vm create \ --resource-group RancherK3sResourceGroup \ --name K3sNode1 \ --image UbuntuLTS \ --nics nic1 \ --admin-username ubuntu \ --generate-ssh-keys \ --custom-data cloud-init.txt az vm create \ --resource-group RancherK3sResourceGroup \ --name K3sNode2 \ --image UbuntuLTS \ --nics nic2 \ --admin-username ubuntu \ --generate-ssh-keys \ --custom-data cloud-init.txt
做爲VM配置的一部分,K3s應該已經安裝完畢。讓咱們鏈接到第一個VM並確認K3s是否正在運行。
ssh ubuntu@<publicIPofNode1>
兩個VM應該都在節點列表上。若是第一次沒有成功,那麼須要給它幾分鐘的時間來運行cloud-init腳本。它可能須要花費一些時間來部署Docker和K3s。
sudo k3s kubectl get nodes
輸出爲:
ubuntu@ip-172-31-60-194:~$ sudo k3s kubectl get nodes NAME STATUS ROLES AGE VERSION ip-172-31-60-194 Ready master 44m v1.17.2+k3s1 ip-172-31-63-88 Ready master 6m8s v1.17.2+k3s1
測試集羣Pod的健康狀態:
sudo k3s kubectl get pods --all-namespaces
在鏈接到咱們其中之一的節點的同時,咱們須要獲取集羣的kubeconfig內容。使用如下命令將內容輸出到屏幕,而後將其複製到剪貼板。
sudo cat /etc/rancher/k3s/k3s.yaml
將其粘貼到文本編輯器中,以便咱們能夠進行更改,而後再將其添加到咱們正在處理的Azure Cloud Shell會話中。
更新server
:使用負載均衡器的外部URL。你可使用xip.io服務爲你提供可解析的徹底限定域名。請參見下面的屏幕截圖。
例如:
https://rancher.
注意:須要將截屏中的示例替換爲你的負載均衡器的公共IP。
如今,在/.kube
文件夾中建立一個名爲config
的文件,並將更新的內容粘貼到該文件中。
首先,從node1開始解除鏈接。
exit
如今建立新的目錄並編輯文件,粘貼到已經更新的內容中。
mkdir ~/.kube vi ~/.kube/config
檢查kubectl是否正在工做並可否與集羣交互。如今Kubectl和Helm已經在Azure Cloud Shell中安裝完畢。
kubectl get pods --all-namespaces
添加Rancher Helm Repo
helm repo add rancher-latest https://releases.rancher.com/server-charts/latest
建立cattle-system
命名空間
kubectl create namespace cattle-system
分別安裝CustomResourceDefinition資源
kubectl apply -f https://raw.githubusercontent.com/jetstack/cert-manager/release-0.12/deploy/manifests/00-crds.yaml
爲cert-manager
建立命名空間
kubectl create namespace cert-manager
添加Jetstack Helm代碼庫
helm repo add jetstack https://charts.jetstack.io
更新你的本地Helm chart代碼庫緩存
helm repo update
安裝cert-manager Helm chart
helm install \ cert-manager jetstack/cert-manager \ --namespace cert-manager \ --version v0.12.0
檢查Cert-Manager是否正在運行,確保全部的pod都正在運行。
kubectl get pods --namespace cert-manager
使用自簽名證書安裝Rancher。確保你使用Rancher Server的URL設置了主機名。在本文中,咱們利用xip.io服務。在Rancher URL中使用Azure 負載均衡器的公共IP地址。
helm install rancher rancher-latest/rancher \ --namespace cattle-system \ --set hostname=rancher.<LoadBalancerPublicIP>.xip.io
等待Rancher部署……
kubectl -n cattle-system rollout status deploy/rancher
三個副本所有roll out以後,請點擊Rancher server deployment的URL,以下所示:
在Azure中建立資源會產生費用,所以請確保在完成操做後刪除資源組。
az group delete --name RancherK3sResourceGroup
在本文中,咱們提供了一種快速簡便的方法使用Rancher對Azure中的容器化工做負載進行多集羣管理。經過使用K3s,咱們不只可以很是快速地啓動並運行,並且移除了etcd同時避免了在生產環境中運行它會產生的一些麻煩。經過使用Azure Cloud Shell,身份驗證變得十分容易,而且能夠「開箱即用」地使用咱們所需的全部工具。