Mongodb基操--分片羣集操做詳解

MongoDB分片介紹

分片的目的

　　高數據量和吞吐量的數據庫應用會對單機的性能形成較大壓力,大的查詢量會將單機的CPU耗盡,大的數據量對單機的存儲壓力較大,最終會耗盡系統的內存而將壓力轉移到磁盤IO上。

　　爲了解決這些問題,有兩個基本的方法: 垂直擴展和水平擴展。

垂直擴展：增長更多的CPU和存儲資源來擴展容量。

水平擴展：將數據集分佈在多個服務器上。水平擴展即分片。

         分片爲應對高吞吐量與大數據量提供了方法。使用分片減小了每一個分片須要處理的請求數，所以，經過水平擴展，集羣能夠提升本身的存儲容量和吞吐量。舉例來講，當插入一條數據時，應用只須要訪問存儲這條數據的分片,使用分片減小了每一個分片存儲的數據。

分片集羣架構

（1）mongos ：數據路由，和客戶端打交道的模塊。mongos自己沒有任何數據，他也不知道該怎麼處理這數據，去找config server

（2）config server：全部存、取數據的方式，全部shard節點的信息，分片功能的一些配置信息。能夠理解爲真實數據的元數據。

（3）shard：真正的數據存儲位置，以chunk爲單位存數據。

 

架構圖  

 

環境說明

系統版本：CentOS Linux release 7.5.1804 (Core)

防火牆SE關閉

mongodb版本：mongodb-linux-x86_64-3.2.1.tgz

 

前期準備，在root用戶下操做

採用Mongodb多實例進行

解壓移動mongodb安裝包

tar zxvf mongodb-linux-x86_64-3.2.1.tgz -C /opt/

cd /opt/
mv mongodb-linux-x86_64-3.2.1/ /usr/local/mongodb

創建軟鏈接方便管理

cd /usr/local/mongodb/
cd bin/
ln -s /usr/local/mongodb/bin/mongo /usr/bin/mongo
ln -s /usr/local/mongodb/bin/mongod /usr/bin/mongod

建立所需目錄

mkdir -p /data/mongodb/mongodb{1,2,3,4}
cd /data/mongodb/
mkdir logs
cd logs/
touch mongodb{1,2,3,4}.log
chmod 777 *.log

優化進程以及打開文件數量

ulimit -u 25000
ulimit -n 25000

編輯配置文件（修改加粗項目）

cd /usr/local/mongodb/bin/
vim mongodb1.conf

port=37017
dbpath=/data/mongodb/mongodb1
logpath=/data/mongodb/logs/mongodb1.log
logappend=true
fork=true
maxConns=5000
storageEngine=mmapv1
configsvr=true      //指定爲配置服務器

內存分攤：某節點內存不足時，從其餘節點分配內存

sysctl -w vm.zone_reclaim_mode=0
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

 

複製修改2，3的配置文件（修改粗體處）

cp -p mongodb1.conf mongodb2.conf
vim mongodb2.conf
port=47017
dbpath=/data/mongodb/mongodb2
logpath=/data/mongodb/logs/mongodb2.log
logappend=true
fork=true
maxConns=5000
storageEngine=mmapv1
shardsvr=true
cp -p mongodb2.conf mongodb3.conf
vim mongodb3.conf
port=47018
dbpath=/data/mongodb/mongodb3
logpath=/data/mongodb/logs/mongodb3.log
logappend=true
fork=true
maxConns=5000
storageEngine=mmapv1
shardsvr=true

啓動服務

mongod -f mongodb1.conf
mongod -f mongodb2.conf
mongod -f mongodb3.conf

開啓路由模式

./mongos --port 27017 --fork --logpath=/usr/local/mongodb/bin/route.log --configdb 192.168.137.13:37017 --chunkSize 1

 

到此複製集配置完成

測試

登錄

[root@cent bin]# mongo
MongoDB shell version: 3.2.1
connecting to: test
Welcome to the MongoDB shell.
…
mongos>                                   //這裏顯示用mongs登錄成功（配置服務器）

查看是否又分片服務器

mongos> sh.status()
]--- Sharding Status ---
  sharding version: {
    "_id" : 1,
    "minCompatibleVersion" : 5,
    "currentVersion" : 6,
    "clusterId" : ObjectId("5b9e394051c099916cc7b236")
}
  shards:                               //這裏沒有東西，那就是尚未建立分片服務器
  active mongoses:
    "3.2.1" : 1
  balancer:
    Currently enabled:  yes
    Currently running:  no
    Failed balancer rounds in last 5 attempts:  0
    Migration Results for the last 24 hours:
        No recent migrations
  databases:

添加分片服務器

mongos> sh.addShard("192.168.137.13:47017")                                      //添加47017
{ "shardAdded" : "shard0000", "ok" : 1 }
mongos> sh.addShard("192.168.137.13:47018")                                     //添加47018
{ "shardAdded" : "shard0001", "ok" : 1 }
mongos> sh.status()
--- Sharding Status ---
  sharding version: {
    "_id" : 1,
    "minCompatibleVersion" : 5,
    "currentVersion" : 6,
    "clusterId" : ObjectId("5b9e394051c099916cc7b236")
}
  shards:
    {  "_id" : "shard0000",  "host" : "192.168.137.13:47017" }                   //看到添加成功了
    {  "_id" : "shard0001",  "host" : "192.168.137.13:47018" }
  active mongoses:
    "3.2.1" : 1
  balancer:
    Currently enabled:  yes
    Currently running:  no
    Failed balancer rounds in last 5 attempts:  0
    Migration Results for the last 24 hours:
        No recent migrations
  databases：

給數據庫添加一些東西，看看它是否會分片。

mongos> use mood
switched to db mood
mongos> for(var i=1;i<=10000;i++)db.info.insert({"id":i,"name":"makee"+i})
WriteResult({
    "writeError" : {
        "code" : 70,
        "errmsg" : "unable to target write op for collection mood.info :: caused by :: ShardNotFound No shards found"
    }
})
mongos> sh.status()
--- Sharding Status ---
  sharding version: {
    "_id" : 1,
    "minCompatibleVersion" : 5,
    "currentVersion" : 6,
    "clusterId" : ObjectId("5ba24eeef6c5933feb7b6cf5")
}
  shards:
  active mongoses:
    "3.2.1" : 1
  balancer:
    Currently enabled:  yes
    Currently running:  no
    Failed balancer rounds in last 5 attempts:  0
    Migration Results for the last 24 hours:
        No recent migrations
  databases:                                     //並無

由於咱們須要啓動分片才能夠，下面啓動它

mongos> sh.enableSharding("mood")        //開啓數據庫分片
{ "ok" : 1 }
mongos> db.info.createIndex({"id":1})            //建立表索引
{
    "raw" : {
        "192.168.137.13:47017" : {
            "createdCollectionAutomatically" : false,
            "numIndexesBefore" : 1,
            "numIndexesAfter" : 2,
            "ok" : 1
        }
    },
    "ok" : 1
}
mongos> sh.shardCollection("mood.info",{"id":1})   //表分片

{ "collectionsharded" : "mood.info", "ok" : 1 }mongos> sh.status()         //查看結果--- Sharding Status ---   sharding version: {    "_id" : 1,    "minCompatibleVersion" : 5,    "currentVersion" : 6,    "clusterId" : ObjectId("5ba3b64dcc3cc1318414a128")}  shards:    {  "_id" : "shard0000",  "host" : "192.168.137.13:47017" }    {  "_id" : "shard0001",  "host" : "192.168.137.13:47018" }  active mongoses:    "3.2.1" : 1  balancer:    Currently enabled:  yes    Currently running:  no    Failed balancer rounds in last 5 attempts:  0    Migration Results for the last 24 hours:         1 : Success  databases:    {  "_id" : "mood",  "primary" : "shard0000",  "partitioned" : true }        mood.info            shard key: { "id" : 1 }            unique: false            balancing: true            chunks:                shard0000    2                shard0001    1            { "id" : { "$minKey" : 1 } } -->> { "id" : 4682 } on : shard0001 Timestamp(2, 0)        //已經開始分片了            { "id" : 4682 } -->> { "id" : 9364 } on : shard0000 Timestamp(2, 1)             { "id" : 9364 } -->> { "id" : { "$maxKey" : 1 } } on : shard0000 Timestamp(1, 2)