Apache-Mesos簡介java
Apache-Mesos是一款基於多資源(內存、CPU、磁盤、端口等)調度的開源集羣管理套件,能使容錯和分佈式系統更加容易使用。官方網站http://mesos.apache.org/ ,軟件可以自由下載使用。linux
Apache-Mesos工做原理nginx
Apache-Mesos採用Master/Slave結構來簡化設計,將Master作得儘量輕量級,僅保存各類計算框架(Framework)和Mesos Slave的狀態信息,這些狀態很容易在Mesos出現故障的時候被重構,除此以外Mesos還使用Zookeeper解決Master單點故障的問題。docker
Apache-Mesos基本術語apache
Mesos Master:負責管理各個Framework和Slave,並將Slave上的資源分配給各個Framework。json
Mesos Slave:負責管理本節點上的各個Mesos Task,爲各個Executor分配資源。vim
Framework:計算機框架,如:Hadoop、Spark等,能夠經過MesosSchedulerDiver接入Mesos。服務器
Executor:執行器,在Mesos Slave上安裝,用於啓動計算框架中的Task。架構
Zookeeper簡介app
ZooKeeper是用來給集羣服務維護配置信息,域名服務,提供分佈式同步和提供組服務。全部這些類型的服務都使用某種形式的分佈式應用程序。ZooKeeper是一個分佈式的,開放源碼的協調服務,是的Chubby一個的實現,是Hadoop和Hbase的重要組件。
ZooKeeper角色
領導者(leader):領導者負責投票發起和決議,更新系統狀態
跟隨者(follwoer):follower用於接收客戶請求並向客戶端返回結果,在選主過程當中參與投票
觀察者:ObServer能夠接受客戶端鏈接,將寫請求轉發給leader節點,但ObServer不參加投票過程,只同步leader的狀態,ObServer的目的是爲了拓展系統,提升讀取速度。
客戶端:請求發起方
服務器架構
主機名 | IP地址 | 安裝軟件包 |
---|---|---|
master | 172.16.10.138 | docker、mesos-master、mesos-slave、marathon、zookeeper |
slave | 172.16.10.147 | docker、mesos-slave、zookeeper |
cat /etc/redhat-release //查看系統版本 uname -r //查看內核版本信息
systemctl stop firewalld.service systemctl disable firewalld.service //禁止開機啓動防火牆 setenforce 0
vim /etc/hosts //兩臺服務器都進行修改 172.16.10.138 master 172.16.10.147 slave hostnamectl set-hostname master //master服務器修改主機名 hostnamectl set-hostname slave //slave服務器修改主機名 修改完畢後需重啓服務器使配置生效
rpm -ivh jdk-8u171-linux-x64.rpm //rpm一鍵安裝Java環境包 java -version //查看java環境
部署mesos
rpm -ivh http://repos.mesosphere.com/el/7/noarch/RPMS/mesosphere-el-repo-7-1.noarch.rpm //下載mesosphere倉庫 yum -y install mesos //安裝mesos服務
yum -y install docker systemctl start docker.service //開啓docker服務 systemctl enable docker.service //開機自啓動服務 docker pull nginx //下載nginx鏡像
部署zookeeper服務
mkdir /zoo tar zxvf zookeeper-3.4.6.tar.gz -C /zoo cd /zoo/ ln -s zookeeper-3.4.6/ zookeeper cd zookeeper/conf/ grep -v "#" zoo_sample.cfg > zoo.cfg
vim zoo.cfg //修改配置文件
tickTime=2000 initLimit=10 syncLimit=5 dataDir=/zoo/zookeeper/data //修改zookeeper數據文件存放目錄 clientPort=2181 //端口 server.1=172.16.10.138:2333:3222 server.2=172.16.10.147:2333:3222
mkdir ../data echo 1 > ../data/myid cat ../data/myid
/zoo/zookeeper/bin/zkServer.sh start //開啓zookeeper服務 /zoo/zookeeper/bin/zkServer.sh status //查看狀態信息
部署slave服務器
rpm -ivh http://repos.mesosphere.com/el/7/noarch/RPMS/mesosphere-el-repo-7-1.noarch.rpm //下載mesosphere倉庫 yum -y install mesos //安裝mesos服務
yum -y install docker systemctl start docker.service //開啓docker服務 systemctl enable docker.service //開機自啓動服務 docker pull nginx //下載nginx鏡像
[root@slave docker]# mkdir /zoo [root@slave docker]# tar xf zookeeper-3.4.6.tar.gz -C /zoo //解壓zookeeper軟件包至/zoo目錄下 [root@slave docker]# cd /zoo/ [root@slave zoo]# ls zookeeper-3.4.6 [root@slave zoo]# ln -s zookeeper-3.4.6/ zookeeper /建立軟連接 [root@slave zoo]# cd zookeeper/conf/ [root@slave conf]# grep -v "#" zoo_sample.cfg > zoo.cfg //反向過濾zoo_sample.cfg的配置文件而且重定向生成zoo.cfg [root@slave conf]# vim zoo.cfg //修改zoo.cfg配置文件 tickTime=2000 initLimit=10 syncLimit=5 dataDir=/zoo/zookeeper/data //修改zookeeper數據文件存放目錄 clientPort=2181 //端口 server.1=172.16.10.138:2333:3222 server.2=172.16.10.147:2333:3222 [root@slave conf]# mkdir ../data //建立數據存放目錄 [root@slave conf]# echo 2 > ../data/myid //在數據存放目錄下建立myid文件 [root@slave conf]# cat ../data/myid //查看驗證myid文件 2
/zoo/zookeeper/bin/zkServer.sh start //開啓zookeeper服務 /zoo/zookeeper/bin/zkServer.sh status //查看狀態信息
這裏能夠看到兩臺服務器上的zookeeper服務的狀態信息,其中slave服務器爲leader,而master服務器爲follower
tar zxvf marathon-0.15.2.tgz -C /opt //解壓marathon軟件包 cd /opt /opt/marathon-0.15.2/bin/start --hostname 172.16.10.138 --master zk://172.16.10.138:2181/mesos //開啓marathon服務
systemctl start mesos-master //master服務器開啓mesos-master服務 systemctl start mesos-slave //slave服務器開啓mesos-slave服務
編輯json文件
vim nginx.json { "id":"nginx", "cpus":0.1, "mem":10, "instances": 1, "constraints":[["hostname", "UNIQUE",""]], "container": { "type":"DOCKER", "docker": { "image": "nginx", "network": "BRIDGE", "portMappings": [ {"containerPort": 80,"hostPort": 0,"servicePort": 0, "protocol":"tcp" } ] } } } curl -X POST -H "Content-type:application/json" http://172.16.10.138:8080/v2/apps -d@nginx.json //調用json部署nginx
而後就能夠在mesos網頁界面和marathon的網頁界面查看到執行的任務