容器服務的監控，註冊與發現

時間 2019-11-24

標籤容器服務監控註冊發現简体版

原文原文鏈接

一，容器監控系統介紹

1.1 Influxdb

InfluxDB是一個開源的沒有外部依賴的時間序列數據庫。適用於記錄度量，事件及執行分析。css

特性
- 內置HTTP API，因此不用再寫服務端代碼來啓動和運行
- 數據能夠被標記，容許很是靈活的查詢
- 相似SQL的查詢語句
- 安裝和管理簡單，數據輸入和輸出速度塊
- 它旨在實時響應查詢。這意味着point數據寫入即被索引並當即可供響應時間應小於100ms的查詢使用。

1.2 cAdvisor

cAdvisor是一款google開源的數據收集工具。可是它默認只顯示實時數據，不儲存歷史數據。所以，爲了存儲和顯示歷史數據，自定義展現圖，能夠將cAdvisor與Influxdb+Grafana集成起來使用。html

1.3 Grafana

Grafana是一個開源的度量分析與可視化套件。常常被用做基礎設施的時間序列數據和應用程序分析的可視化，它在其餘領域也被普遍的使用包括工業傳感器，家庭自動化，天氣和過程控制等。node

Grafana支持許多不一樣的數據源。每一個數據源都有一個特定的查詢編輯器，該編輯器定製的特性和功能是公開的特定數據來源。linux

官方支持如下數據源：Graphite，InfluxDB，OpenTSDB，Prometheus，Elasticsearch，CloudWatch和KairosDB。nginx

每一個數據源的查詢語言和能力都是不一樣的。你能夠把來自多個數據源的數據組合到一個儀表板，但每個面板被綁定到一個特定的數據源，它就屬於一個特定的組織。c++

1.4 Influxdb+cAdvisor+Grafana組合

二，構建容器監控系統入門

首先啓動IPV4轉發

echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.confgit

sysctl -pgithub

2.1 安裝及配置docker-ce

yum -y install yum-utils device-mapper-persistent-data lvm2web

curl https://download.docker.com/linux/centos/docker-ce.repo -o /etc/yum.repos.d/docker-ce.repo算法

yum -y install docker-ce

systemctl start docker

systemctl enable docker

vim /etc/docker/daemon.json

cat /etc/docker/daemon.json

{
"registry-mirrors":[ "https://registry.docker-cn.com" ]
}

systemctl daemon-reload

systemctl restart docker

2.2 下載和啓動Influxdb

docker pull tutum/influxdb

docker network create monitor

docker network ls

docker run -d --name influxdb --net monitor -p 8083:8083 -p 8086:8086 tutum/influxdb

docker ps -a

經過瀏覽器訪問

http://192.168.200.70:8083
進入Influxdb的管理界面，以下

2.3 下載和啓動cAdvisor

docker pull google/cadvisor

docker images

docker run -d --name=cadvisor --net monitor -p 8081:8080 --mount type=bind,src=/,dst=/rootfs,ro --mount type=bind,src=/var/run,dst=/var/run --mount type=bind,src=/sys,dst=/sys,ro --mount type=bind,src=/var/lib/docker/,dst=/var/lib/docker,ro google/cadvisor -storage_driver=influxdb -storage_driver_db=cadvisor -storage_driver_host=influxdb:8086

docker ps -a

經過瀏覽器訪問

http://192.168.200.70:8081
進入cAdvisor管理界面，以下

2.4 下載和啓動Grafana

docker pull grafana/grafana

docker images

docker run -d --name grafana --net monitor -p 3000:3000 grafana/grafana

docker ps -a

經過瀏覽器訪問

http://192.168.200.70:3000
默認用戶：admin 默認密碼：admin
進入Grafana管理界面，以下

三，配置容器監控系統

3.1 向Influxdb中建立一個庫"cadvisor"，用來給cadvisor來存儲數據

3.2 向Influxdb中建立一個用戶，用來給cadvisor來訪問

用戶：grafana
密碼：grafana

3.3 在Grafana中添加數據庫源地址

3.4 建立一個儀表盤

四，容器服務的自動註冊與發現

4.1 什麼是微服務

微服務是衆多可以獨立運行，獨立部署，獨立提供訪問的服務程序。

這些獨立的程序能夠單獨運行提供某方面的服務，也能夠經過分佈式的方式調用各自提供的API接口進行集羣組合式服務。

就如同以前咱們安裝的容器監控系統，它是經過InfluxDB+cAdvisor+Grafana組合來實現的。這三個軟件服務均可以獨立部署，獨立運行，並都有獨立提供外部訪問的web界面。能夠分拆來使用（搭配別的微服務軟件進行組合），也能夠經過各自的API接口進行串聯集羣式訪問。

4.2 什麼是服務發現

微服務的框架體系中，服務發現是不能不提的一個模塊。咱們來看下圖：

上圖中，左圖的客戶端的一個藉口，須要調用服務A-D。客戶端必需要知道全部服務的網絡位置的，以往的作法是配置在配置文件中，或者有些配置在數據庫中。這裏就帶出幾個問題：
- 須要配置N個服務的網絡位置，加大配置的複雜性
- 服務的網絡位置變化，都須要改變每一個調用者的配置
- 集羣的狀況下，難以作負載（反向代理的方式除外）

總結起來一句話：服務多了，配置很麻煩，問題多多

上圖中，右圖多加了個服務發現模塊。服務A-D把當前本身的網絡位置註冊到服務發現模塊，服務發現就以K-V的方式記錄下，K通常是服務名，V就是IP：PORT。服務發現模塊定時的輪詢查看這些服務能不能訪問的了（這就是健康檢查）。客戶端在調用服務A-D的時候，就跑去服務發現模塊問下他們的網絡位置，而後再調用他們的服務。這樣的方式是否是就能夠解決以前的問題了呢？客戶端徹底不須要記錄這些服務網絡位置，客戶端和服務端徹底解耦！

4.3 Consul 是什麼？

Consul是一個支持多數據中心分佈式高可用的服務發現和配置共享的服務軟件，由HashiCorp公司用Go語言開發，基於Mozilla Public License 2.0的協議進行開源。Consul支持健康檢查，並容許HTTP和DNS協議調用API存儲鍵值對。

4.4 Consul的使用場景

docker實例的註冊與配置共享
coreos實例的註冊與配置共享
vitess集羣
SaaS應用的配置共享
與confd服務集成，動態生成nginx和haproxy配置文件

4.5 Consul的優點

使用Raft算法來保證一致性，比複雜的Paxos算法更直接。相比較而言，zookeeper採用的是Paxos，而etcd使用的則是Raft
支持多數據中心，內外網的服務採用不一樣的端口進行監聽。多數據中心集羣能夠避免單數據中心的單點故障，而其部署則須要考慮網絡延遲，分片等狀況。zookeeper和etcd均不提供多數據中心功能的支持。
支持健康檢查，etcd不提供此功能。
支持http和dns協議接口。zookeeper的集成較爲複雜，etcd只支持http協議。
官方提供web管理界面，etcd無此功能。

綜合比較，Consul做爲服務註冊和配置管理的新星，比較值得關注和研究。

容器服務的監控,註冊與發現全部源碼包

連接：https://pan.baidu.com/s/1E7dTmKvbMRtGZ95OtuF2fw
提取碼：z8ly

4.6 Consul服務器端的安裝和部署(上方有下載連接)

consul下載地址：https://www.consul.io/downloads.html

主機名 IP 用途
registrator-server 192.168.200.70 consul註冊服務器

解壓安裝consul

tar xf consul_1.2.1_linux_amd64.tar.gz

mv consul /usr/bin/

ll /usr/bin/consul

chmod +x /usr/bin/consul

部署並啓動consul

consul agent -server -bootstrap -ui -data-dir=/var/lib/consul-data -bind=192.168.200.70 -client=0.0.0.0 -node=server01 &>/var/log/consul.log &

netstat -antup | grep consul

tcp6 0 0 :::8500 :::* LISTEN 18866/consul #這是對外訪問端口

瀏覽器訪問

192.168.200.70:8500

4.7 consul的基本使用

（1）經過Linux命令獲取信息

查看集羣節點信息

consul members

查看集羣節點的服務端位置

consul info | grep leader

查看集羣註冊的服務信息

consul catalog services

（2）本地模擬進行註冊

curl -X PUT -d '{"id":"jetty","name":"service_name","adress":"192.168.200.70","port":8080,"tags":["test"],"checks":[{"http":"http://192.168.200.70:8080/","interval":"5s"}]}' http://192.168.200.70:8500/v1/agent/service/register

（3）經過HTTP API獲取集羣信息

查看集羣節點成員

curl 192.168.200.70:8500/v1/status/peers

查看集羣服務端位置

curl 192.168.200.70:8500/v1/status/leader

查看註冊的全部服務

curl 192.168.200.70:8500/v1/catalog/services

查看nginx服務信息

curl 192.168.200.70:8500/v1/catalog/services/nginx

集羣節點詳細信息

curl 192.168.200.70:8500/v1/catalog/nodes

五，Docker+Registrator+Consul實現容器服務自動加入Nginx集羣

consul-template：一個守護程序，用於實時查詢consul集羣數據，並更新文件系統上的任意數量的指定模板，生成配置文件，更新完成後能夠選擇運行任何Shell命令。
gliderlabs/registrator：檢查容器運行狀態自動註冊和註銷Docker容器的服務到服務配置中心。目前支持Consul，etcd和SkyDNS2。
https://github.com/hashicorp/consul-template

主機名	IP	用途
registartor-server	192.168.200.70	consul註冊服務器
nginx-LB	192.168.200.86	nginx反向代理服務器
docker-client	192.168.200.87	nginxWeb節點服務器

5.1 nginx-LB服務器安裝consul-template(consul客戶端)

ls

unzip consul-template_0.19.3_linux_amd64.zip

mv consul-template /usr/bin/

which consul-template

5.2 nginx-LB服務器安裝nginx

yum -y install gcc gcc-c++ make pcre pcre-devel zlib zlib-devel openssl openssl-devel

tar xf nginx-1.10.2.tar.gz -C /usr/src/

cd /usr/src/nginx-1.10.2/

./configure --prefix=/usr/local/nginx --with-http_ssl_module --with-http_stub_status_module && make && make install

5.3 nginx-LB配置consul服務支持的nginx配置文件模板

製做consul支持的nginx配置文件模板

mkdir -p /consul-tml

cd /consul-tml/

vim nginx.ctmpl

cat nginx.ctmpl

worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream http_backend {
ip_hash;
{{ range service "nginx" }} #獲取服務nginx
server {{ .Address }}:{{ .Port }}; #循環羅列所屬服務的IP和端口
{{ end }}
}
server {
listen 80;
server_name localhost;
location / {
proxy_pass http://http_backend;
}
}
}

啓動consul-template

nohup consul-template -consul-addr 192.168.200.70:8500 -template /consul-tml/nginx.ctmpl:/usr/local/nginx/conf/nginx.conf:"/usr/local/nginx/sbin/nginx -s reload" 2>&1 >/consul-tml/consul-template.log &

查看nginx配置文件

cat /usr/local/nginx/conf/nginx.conf

worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream http_backend { #尚未任何容器節點註冊，所以這裏沒東西
ip_hash;
}
server {
listen 80;
server_name localhost;
location / {
proxy_pass http://http_backend;
}
}
}

netstat -antup | grep nginx #配置文件裏沒有web節點所以nginx沒有啓動成功

5.4 在Docker客戶端上啓動nginxWeb容器做爲節點，並啓動registrator進行服務註冊

開啓ipv4網卡轉發

echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.conf

sysctl -p

下載並啓動nginxWeb01容器節點

docker pull nginx

mkdir -p /www/html

echo "hostname -I sl.yunjisuan.com" >> /www/html/index.html

docker run -dit --name nginxWeb01 -p 80:80 --mount type=bind,src=/www/html,dst=/usr/share/nginx/html nginx

模擬web訪問

curl localhost

下載並啓動registrator容器進行自動註冊

docker pull gliderlabs/registrator

docker run -d --name=registrator -v /var/run/docker.sock:/tmp/docker.sock --restart=always gliderlabs/registrator:latest -ip=192.168.200.87 consul://192.168.200.70:8500

瀏覽器查看

http://192.168.200.70:8500

在nginx-LB上查看nginx反向代理配置文件渲染狀況

若是沒有啓動nginx，須要先啓動

/usr/local/nginx/sbin/nginx

cat /usr/local/nginx/conf/nginx.conf

worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream http_backend {
ip_hash;
server 192.168.200.87:80; #已經有註冊的web容器地址了
}
server {
listen 80;
server_name localhost;
location / {
proxy_pass http://http_backend;
}
}
}

netstat -antup | grep nginx #nginx服務也啓動了

5.5 在docker客戶端上繼續增長nginxWeb容器節點，進行驗證

docker run -dit --name nginxWeb02 -p 81:80 --mount type=bind,src=/www/html,dst=/usr/share/nginx/html nginx

docker run -dit --name nginxWeb03 -p 82:80 --mount type=bind,src=/www/html,dst=/usr/share/nginx/html nginx

docker ps -a