Mongodb 3 查詢優化（語句優化、建索引）

時間 2019-11-17

原文原文鏈接

1、explain()，語句分析工具git

MongoDB 3.0以後，explain的返回與使用方法與以前版本有了很大的變化，介於3.0以後的優秀特點和咱們目前所使用給的是3.0.7版本，本文僅針對MongoDB 3.0+的explain進行討論。3.0+的explain有三種模式，分別是：queryPlanner、executionStats、allPlansExecution。現實開發中，經常使用的是executionStats模式，主要分析這種模式。mongodb

給這個person集合建立age鍵的索引：db.person.createIndex({"age":1})數據庫

db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")

{
    "queryPlanner" : {
        "plannerVersion" : 1,
        "namespace" : "personmap.person",
        "indexFilterSet" : false,
        "parsedQuery" : {
            "age" : {
                "$lte" : 2000.0
            }
        },
        "winningPlan" : {
            "stage" : "FETCH",
            "inputStage" : {
                "stage" : "IXSCAN",
                "keyPattern" : {
                    "age" : 1.0
                },
                "indexName" : "age_1",
                "isMultiKey" : false,
                "direction" : "forward",
                "indexBounds" : {
                    "age" : [ 
                        "[-1.#INF, 2000.0]"
                    ]
                }
            }
        },
        "rejectedPlans" : []
    },
    "executionStats" : {
        "executionSuccess" : true,
        "nReturned" : 2001,
        "executionTimeMillis" : 143,
        "totalKeysExamined" : 2001,
        "totalDocsExamined" : 2001,
        "executionStages" : {
            "stage" : "FETCH",
            "nReturned" : 2001,
            "executionTimeMillisEstimate" : 0,
            "works" : 2002,
            "advanced" : 2001,
            "needTime" : 0,
            "needFetch" : 0,
            "saveState" : 16,
            "restoreState" : 16,
            "isEOF" : 1,
            "invalidates" : 0,
            "docsExamined" : 2001,
            "alreadyHasObj" : 0,
            "inputStage" : {
                "stage" : "IXSCAN",
                "nReturned" : 2001,
                "executionTimeMillisEstimate" : 0,
                "works" : 2002,
                "advanced" : 2001,
                "needTime" : 0,
                "needFetch" : 0,
                "saveState" : 16,
                "restoreState" : 16,
                "isEOF" : 1,
                "invalidates" : 0,
                "keyPattern" : {
                    "age" : 1.0
                },
                "indexName" : "age_1",
                "isMultiKey" : false,
                "direction" : "forward",
                "indexBounds" : {
                    "age" : [ 
                        "[-1.#INF, 2000.0]"
                    ]
                },
                "keysExamined" : 2001,
                "dupsTested" : 0,
                "dupsDropped" : 0,
                "seenInvalidated" : 0,
                "matchTested" : 0
            }
        }
    },
    "serverInfo" : {
        "host" : "qinxiongzhou",
        "port" : 27017,
        "version" : "3.0.7",
        "gitVersion" : "6ce7cbe8c6b899552dadd907604559806aa2e9bd"
    },
    "ok" : 1.0
}

db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")

對queryPlanner分析工具

queryPlanner: queryPlanner的返回測試

queryPlanner.namespace:該值返回的是該query所查詢的表優化

queryPlanner.indexFilterSet:針對該query是否有indexfilterspa

queryPlanner.winningPlan:查詢優化器針對該query所返回的最優執行計劃的詳細內容。指針

queryPlanner.winningPlan.stage:最優執行計劃的stage，這裏返回是FETCH，能夠理解爲經過返回的index位置去檢索具體的文檔（stage有數個模式，將在後文中進行詳解）。rest

queryPlanner.winningPlan.inputStage:用來描述子stage，而且爲其父stage提供文檔和索引關鍵字。code

queryPlanner.winningPlan.stage的child stage，此處是IXSCAN，表示進行的是index scanning。

queryPlanner.winningPlan.keyPattern:所掃描的index內容，此處是did:1,status:1,modify_time: -1與scid : 1

queryPlanner.winningPlan.indexName：winning plan所選用的index。

queryPlanner.winningPlan.isMultiKey是不是Multikey，此處返回是false，若是索引創建在array上，此處將是true。

queryPlanner.winningPlan.direction：此query的查詢順序，此處是forward，若是用了.sort({modify_time:-1})將顯示backward。

queryPlanner.winningPlan.indexBounds:winningplan所掃描的索引範圍,若是沒有制定範圍就是[MaxKey, MinKey]，這主要是直接定位到mongodb的chunck中去查找數據，加快數據讀取。

queryPlanner.rejectedPlans：其餘執行計劃（非最優而被查詢優化器reject的）的詳細返回，其中具體信息與winningPlan的返回中意義相同，故不在此贅述。

對executionStats返回逐層分析

第一層，executionTimeMillis

最爲直觀explain返回值是executionTimeMillis值，指的是咱們這條語句的執行時間，這個值固然是但願越少越好。

其中有3個executionTimeMillis，分別是：

executionStats.executionTimeMillis

該query的總體查詢時間。

executionStats.executionStages.executionTimeMillisEstimate

該查詢根據index去檢索document得到2001條數據的時間。

executionStats.executionStages.inputStage.executionTimeMillisEstimate

該查詢掃描2001行index所用時間。

第二層，index與document掃描數與查詢返回條目數

這個主要討論3個返回項，nReturned、totalKeysExamined、totalDocsExamined，分別表明該條查詢返回的條目、索引掃描條目、文檔掃描條目。

這些都是直觀地影響到executionTimeMillis，咱們須要掃描的越少速度越快。

對於一個查詢，咱們最理想的狀態是：

nReturned=totalKeysExamined=totalDocsExamined

第三層，stage狀態分析

那麼又是什麼影響到了totalKeysExamined和totalDocsExamined？是stage的類型。類型列舉以下：

COLLSCAN：全表掃描

IXSCAN：索引掃描

FETCH：根據索引去檢索指定document

SHARD_MERGE：將各個分片返回數據進行merge

SORT：代表在內存中進行了排序

LIMIT：使用limit限制返回數

SKIP：使用skip進行跳過

IDHACK：針對_id進行查詢

SHARDING_FILTER：經過mongos對分片數據進行查詢

COUNT：利用db.coll.explain().count()之類進行count運算

COUNTSCAN：count不使用Index進行count時的stage返回

COUNT_SCAN：count使用了Index進行count時的stage返回

SUBPLA：未使用到索引的$or查詢的stage返回

TEXT：使用全文索引進行查詢時候的stage返回

PROJECTION：限定返回字段時候stage的返回

對於普通查詢，我但願看到stage的組合(查詢的時候儘量用上索引)：

Fetch+IDHACK

Fetch+ixscan

Limit+（Fetch+ixscan）

PROJECTION+ixscan

SHARDING_FITER+ixscan

COUNT_SCAN

不但願看到包含以下的stage：

COLLSCAN(全表掃描),SORT(使用sort可是無index),不合理的SKIP,SUBPLA(未用到index的$or),COUNTSCAN(不使用index進行count)

2、建索引

1.基礎索引

在字段age 上建立索引，1(升序);-1(降序)：

_id 是建立表的時候自動建立的索引，此索引是不可以刪除的。當系統已有大量數據時，建立索引就是個很是耗時的活，咱們能夠在後臺執行，只需指定「backgroud:true」便可。

2.文檔索引

索引能夠任何類型的字段，甚至文檔:

3. 組合索引

跟其它數據庫產品同樣，MongoDB 也是有組合索引的，下面咱們將在addr.city 和addr.state上創建組合索引。當建立組合索引時，字段後面的1 表示升序，-1 表示降序，是用1 仍是用-1 主要是跟排序的時候或指定範圍內查詢的時候有關的。

4. 惟一索引

只需在ensureIndex 命令中指定」unique:true」便可建立惟一索引。例如，往表t4 中插入2 條記錄:

5.強制使用索引

hint 命令能夠強制使用某個索引。

6.刪除索引

6.查詢索引

三、其餘優化

一、MongoDB中低效率的操做符

"$where"和"$exists"：這兩個操做符，徹底不能使用索引。

"$ne":一般來講取反的效率比較低。"$ne"查詢可使用索引，但並非頗有效。由於他必須查看全部的索引條目，而不是"$ne"指定的條目，這個時候他就不得不掃描整個索引。

"$not":有時候可以使用索引，可是他一般並不知道要如何使用索引。因此大多數狀況"$not"會退化爲全表掃描。

"$nin":這個操做符老是會全表掃描

二、OR查詢

MongoDB在一次查詢中只能使用一個索引（至少我如今用的2.6是這樣的），若是你在{"x":1}上有一個索引，在{"y":1}上也有一個索引，在{"x":1,"y":1}上執行查詢時，MongoDB只會使用其中一個索引，而不是兩個一塊兒使用。"$or"是一個例外，"$or"能夠對每一個字句都使用索引，由於"$or"其實是執行兩次查詢而後將結果合併。

一般來講，使用or查詢屢次在合併結果，不如單次查詢的效率高，對於單個字段，應該儘量使用$in。

三、MongoDB的查詢優化器

MongoDB的查詢優化器與其餘數據庫的稍微不一樣。基原本說，若是一個索引可以精確匹配一個查詢，那麼查詢優化器就會使用這個索引，若是不能精確匹配，可能會有幾個索引都適合你的查詢。那MongoDB是怎樣選擇的呢？答：MongoDB的查詢計劃會將多個索引並行的去執行，最先返回100個結果的就是勝者，其餘查詢計劃都會被終止。

這個查詢計劃會被緩衝，接下來的這個查詢都會使用他，下面幾種狀況會從新計劃；

1. 最初的計劃評估以後集合發生了比較大的數據波動，查詢優化器就會從新挑選可行的查詢計劃。
2. 創建索引時。
3. 每執行1000次查詢以後，查詢優化器就會從新評估查詢計劃

四、什麼時候不該該使用索引

提取較小的子數據集時，索引很是有效（因此纔有了分頁）。也有一些查詢不使用索引會更快。結果集在原集合中所佔的比例越大，查詢效率越慢。由於使用索引須要進行兩次查找：一次查找索引條目，一次根據索引指針去查找相應的文檔。而全表掃描只須要進行一次查詢。在最壞的狀況，使用索引進行查找次數會是全表掃描的兩倍。效率會明顯比全表掃描低。

惋惜並無一個嚴格的規則能夠告訴咱們，若是根據索引大小、文檔大小來判斷何時索引頗有用，通常來講，若是查詢須要返回集合內30%的文檔（或者更多），那就應該測試全表掃描和走索引查詢那個速度比較快。這個數字也會在2%~60%之間進行波動。

這個時候可使用hint({"$natural":true})強制查詢走全表掃描。