搭建DevOps模式的項目

在後端的開發領域，各種開發框架都已經不少，在開發項目時能夠根據不一樣的須要和需求選擇合適的開發框架。然而在須要開發一個完善的工程化項目時，僅僅一個後端開發框架是不夠的，還面臨着在對開發項目的快速迭代中進行測試，部署，監控等問題。爲了解決這些問題，DevOps的開發模式應運而生。

基於我的對DevOps的理解，搭建了一個基於Gin的開源後端項目來實踐下DevOps的各個概念：https://github.com/wanghaoxi3000/advproject。

DevOps是一個寬泛的概念，這個項目也只是拋磚引玉，在測試環境下串聯起各個DevOps的基礎工具，存在的不足歡迎指出，一塊兒學習和交流。

如何構建DevOps模式的項目

什麼是DevOps呢，對DevOps比較官方的定義以下：

DevOps 集文化理念、實踐和工具於一身，能夠提升組織高速交付應用程序和服務的能力，與使用傳統軟件開發和基礎設施管理流程相比，可以幫助組織更快地發展和改進產品。這種速度使組織可以更好地服務其客戶，並在市場上更高效地參與競爭。

能夠說DevOps是一組過程、方法與系統的統稱，涉及到開發中的組織架構，開發工具，基礎架構等等方面。但它的一個核心即是強調經過各種自動化的工具來自動執行軟件交付和基礎架構更改流程，從而快速、頻繁且更可靠地構建、測試和發佈軟件。這裏也將主要圍繞這個思想來構建DevOps的項目。

在這個基礎項目中，將主要圍繞以下部分的Devops實踐進行構建：

• 持續集成：一種軟件開發實踐經驗，開發人員會按期將他們的代碼變動合併到一箇中央存儲庫中，以後系統會自動運行構建和測試操做。
• 持續交付：自動構建和測試代碼更改，併爲將其發佈到生產環境作好準備，實現對持續集成的擴展。
• 基礎設施即代碼：使用基於代碼的工具來鏈接基礎設施，而且可以以處理應用程序代碼的方式來處理基礎設施。基礎設施和服務器由代碼進行定義。
• 監控和日誌記錄：組織對各項指標和日誌進行監控，以瞭解應用程序和基礎設施性能如何影響其產品的最終用戶體驗。

整個項目的開發流程以下：

開發工具及環境

要完成從開發到部署的一系列的流程，固然也少不了各類自動化工具及環境的支持，本項目所使用的環境以下：

1. 代碼開發環境Go 1.13
2. Github帳戶
3. 容器倉庫，本項目使用騰訊雲容器服務
4. Jenkins 2.190
5. Kubernetes 本項目使用基於k8s v1.16.1的三節點集羣

DevOps項目開發流程

經過advproject這個基於Gin的後端項目的代碼更新、提交、完成對項目的自動化測試、打包、部署的流程。

後端項目

advproject項目主要包含了以下部分：

• 接口文檔 swag
• 日誌 zap
• 配置 godotenv
• docker容器化文件 Dockerfile
• Jenkinsflie Jenkinsfile
• Kubernetes部署文件 deployment-template.yaml

整個代碼的結構以下

.
├── Dockerfile                  // Docker鏡像打包文件
├── Jenkinsfile                 // Jenkins CI 定義
├── README.md
├── api
│   └── status.go               // 運行狀態接口
├── config
│   ├── base.go                 // 基礎配置
│   └── init.go                 // 配置模塊初始化
├── deployment-template.yaml    // Kubernetes部署模板文件
├── docs                        // swag 接口文檔
│   ├── docs.go
│   ├── swagger.json
│   └── swagger.yaml
├── go.mod
├── go.sum
├── main.go
├── serializer
│   └── common.go               // 接口格式定義
├── server
│   └── router.go               // 路由
├── test
│   └── status_test.go          // 測試代碼
└── util
    └── logger.go               // 日誌模塊

Jenkins CI配置

在代碼有更新時，提交代碼到Github後，Jenkins會收到代碼Github推送通知，拉取代碼並讀取代碼中的Jenkinsfile文件來運行指定的流程。

可經過以下命令docker來快速運行一個Jenkins。爲了在Jenkins容器中使用docker命令，將docker命令映射到了容器中，同時指定以root身份來運行容器。

docker run --name=jenkins_lts -d -u root -v jenkins_home:/var/jenkins_home -v /var/run/docker.sock:/var/run/docker.sock -v $(which docker):/bin/docker -p 8080:8080 -p 50000:50000 -e JAVA_OPTS=-Duser.timezone=Asia/Shanghai jenkins/jenkins:lts

在Jenksin容器啓動完成併成功登錄後，能夠點擊主界面右下角的Jenkins 中文社區連接，而後更新中心鏡像設置爲國內源，加快插件的下載速度。

環境配置

本項目中主要使用到這些Jenkins插件，能夠在插件管理頁面中搜索安裝：

• Blue Ocean 方便和Pipeline搭配使用
• Kubernetes Cli Plugin 經過kubectl操控k8s集羣

在執行部署的推送鏡像、通知等過程當中，須要使用到不方便暴露在代碼中的密鑰，如何在Jenkinsfile中使用這些密鑰呢？能夠提早在Jenkins的憑據管理中錄入這些密鑰，Jenkinsfile中以變量的方式進行調用。這裏配置了以下的憑證：

• tcloud-docker-reg 鏡像倉庫登陸密鑰
• kubctl-config kubectl密鑰
• PUSH_KEY 基於Server醬通知推送的密鑰

創建項目

經過Jenkinsfile文件以代碼聲明的方式來定義持續集成的流程，須要在Jenkins中創建一個 Pipeline流水線項目。

選擇新建任務，輸入任務名創建一個流水線項目：

General選項卡中勾選GitHub項目，並填入項目地址：

在代碼推送後，使用GitHub的webhook功能推送代碼更新消息，須要在構建觸發器中勾選GitHub hook trigger for GITScm polling：

此後還須要在GitHub的代碼項目中配置webhook推送更新的地址，相關文章已有不少，這裏就再也不累述了。

最後，在流水線配置中填入代碼地址：

指定分支中默認爲*/master，表示拉取master分支的更新，若是想要拉取指定tag的代碼。能夠按這樣的格式來配置：+refs/tags/*:refs/remotes/origin/tags/*。

運行一下，能夠看見Jenkins開始啓動並運行了。

經過Blue Ocean，能夠看見更詳細的運行圖。

推送結果

推送的結果將經過Server醬推送到綁定的微信中。Server醬是一個很方便的微信推送服務，只須要綁定下GitHub帳戶，以後請求對應地址便可向微信推送消息。推送的信息包含本次集成的結果和代碼更新的記錄，集成結果在Jenkinsfile中能夠經過${currentBuild.result}來獲取。代碼更新記錄Jenkins沒有對應的變量，能夠經過運行git log --pretty=format:\'%h - %an,%ar : %s\' --since=\'1 hours\' | head -n 1來獲取代碼最近一次的變動記錄。

部署到Kubernetes

項目每次更新完成，同經過Jenkins拉取代碼測試無誤後，將會把項目打包成鏡像並以build-${BUILD_NUMBER}做爲tag，並推送到騰訊雲的私有鏡像倉庫中，${BUILD_NUMBER}是Jenkins運行任務時的環境變量，表示運行本次集成任務的序號。以後以項目中deployment-template.yaml爲模板，替換對應變量後部署到k8s集羣上。

Jenkins pipeline 執行完成後登陸集羣節點，運行kubectl get pods，能夠看到剛剛部署上的項目，已全處於了Running狀態了。

NAME                          READY   STATUS    RESTARTS   AGE
advproject-6f5d4d7d5d-pwmrp   1/1     Running   0          33s
advproject-6f5d4d7d5d-zscz2   1/1     Running   0          19s

爲了便於測試，快速訪問集羣中的服務，能夠按以下配置啓動一個NodePort的Service，將Pod的端口暴露出來。

apiVersion: v1
kind: Service
metadata:
  name: advproject-svc
spec:
  type: NodePort
  ports:
  - port: 3000
    targetPort: 3000
    protocol: TCP
  selector:
    app: advproject

經過kubectl get service能夠看到NodePode分配的端口號爲30942：

NAME             TYPE        CLUSTER-IP       EXTERNAL-IP   PORT(S)          AGE
advproject-svc   NodePort    10.110.152.165   <none>        3000:30942/TCP   25d

在節點上運行curl localhost:30942/api/v1/hostname，能夠查看到項目對應的hostname，因爲部署的Deployment文件中設置的replicas: 2，項目部署的節點數爲2，請求的hostname也會隨機出現兩種。

日誌監控

進入k8s的dashboard，在側邊欄選擇容器組，能夠看見運行項目的兩個容器的，點擊日誌能夠在網頁中分別查看每一個容器的控制檯日誌。這裏能夠看到剛剛請求hostname接口的日誌，以及k8s在定時請求status接口進行健康檢查。

爲了更好的收集和分析日誌，這裏將經過k8s的ELK插件，來統一收集日誌。克隆k8s對應版本的代碼，使用k8s項目/cluster/addons/fluentd-elasticsearch目錄下的示例代碼，使用kubectl apply -f .命令能夠快速部署一個ELk插件。

部署完成後，登陸kibana，建立一個默認的 logstash-* pattern。

稍等一會，就能夠Discover菜單下看到ElasticSearch logging中匯聚的日誌，在Filters中搜索Gin，能夠看到本項目的日誌了。

總結

至此，一個以DevOps模式的項目開發流程便大體完成了。固然這個過程也還有不少能夠繼續完善的地方，好比生成更詳細的代碼測試報表、使用kibana生成日誌報表、監測代碼中的錯誤日誌並報警等等。經過DevOps，將開發、測試、運維這些步驟緊密聯繫了起來，使得構建、測試、發佈軟件可以更加地快捷、頻繁和可靠。除了這些技術和工具，DevOps也更須要組織中各個部門之間的進行良好的溝通、協做與整合。在實際開發中，須要經過各個部門的分工合做，開發人員編寫業務和單元測試代碼；測試人員設計測試用例，關注代碼測試報告；運維人員設計Kubernetes部署模板，監控系統及日誌數據，這樣才能發揮DevOps的最大效力，更好地爲客戶服務並在市場中更有競爭力。