MongoDB數據庫

時間 2019-11-10

原文原文鏈接

一.MongoDB

1.爬蟲的數據存儲
    能夠放到mysql ,mysql 是關係型數據庫 ,是基於硬盤存儲的
    當併發量太大時,mysql 可能沒法支撐, 須要將數據庫設計爲分佈式
    mysql固然也支持分佈式,可是分佈式不是mysql的強項

    反觀MongoDB,它從一開始設計時就是奔着分佈式去的,只須要簡單的配置就能實現高效的分佈式存儲
    被大量應用於大數據領域

2.MongoDB是一款基於C++編寫的分佈式非關係型數據庫    noSQL:Not only SQL

3.Mongodb與redis數據庫的區別
    MongoDB是最像關係型數據庫的非關係型數據庫,更加適用於大數據.
    redis則更加傾向於較小的數據,但性能更高一點

4.爲何爬蟲須要使用MongoDB?
    由於一些爬蟲程序要爬取的數據很是多,簡單的儲存系統已經沒法知足需求了

二.MongoDB安裝

若是報錯2502或2503 
一、以管理員身份運行cmd命令 （Win + X, A）
2.在該安裝包所正的目錄下輸入:msiexec /package + 安裝包名  進行安裝

安裝過程當中出現
出現service MongoDB failed to start，verify that you have sufficient privileges to start system services 錯誤

刪除bin文件夾中mongod.cfg文件下#snmp: 後面的內容 
而後進入services.msc找到MongoDB Server,右鍵屬性登陸選擇本地系統登陸,而後Retry 便可

此時MongoDB已經開啓，瀏覽器訪問http://localhost:27017/，頁面上輸出：
It looks like you are trying to access MongoDB over HTTP on the native driver port.
說明MongoDB已經啓動了，且它的默認端口(27017)沒有被佔用。

三.重要概念

MongoDB        mysql
數據庫         數據庫
集合             表
文檔(相似字典)   記錄
鍵值對          字段

#注意:MongoDB中區分大小寫

注意事項:
須要注意的是：
#一、文檔中的鍵/值對是有序的。
#二、文檔中的值不只能夠是在雙引號裏面的字符串，還能夠是其餘幾種數據類型（甚至能夠是整個嵌入的文檔)。
#三、MongoDB區分類型和大小寫。
#四、MongoDB的文檔不能有重複的鍵。
#五、文檔中的值能夠是多種不一樣的數據類型，也能夠是一個完整的內嵌文檔。文檔的鍵是字符串。除了少數例外狀況，鍵可使用任意UTF-8字符。

文檔鍵命名規範：
#一、鍵不能含有\0 (空字符)。這個字符用來表示鍵的結尾。
#二、.和$有特別的意義，只有在特定環境下才能使用。
#三、如下劃線"_"開頭的鍵是保留的(不是嚴格要求的)。

四.使用

將bin文件夾加入環境變量
在cmd    下輸入mongo,看見歡迎信息說明登陸成功
此時沒有任何的權限限制,默認是管理員角色

1.建立帳號

#一、建立帳號
use admin 
db.createUser(
  {
    user: "root",
    pwd: "123",
    roles: [ { role: "root", db: "admin" } ]  #角色:root是管理員角色,對admin有操做權限
  }
)

use test1
db.createUser(
  {
    user: "henry",
    pwd: "123",
    roles: [ { role: "readWrite", db: "test1" },  #readwrite是可讀可寫角色
             { role: "read", db: "test2" } ]      #read是隻讀角色
  }
)

key都是固定的不能隨便寫,每個key都有特殊含義
在mongodb中用不一樣的數據庫來區分權限,建立管理員帳戶在admin下建立!
db 是一個全局變量 表示當前數據庫
db.createUser()是調用一個內部函數用於建立用戶
每一個帳號能夠具有多個角色

注意:建立管理員帳戶在admin下建立.
    往其餘數據建立用戶,須要在admin登陸狀態下,進入該數據庫進行建立
    admin能夠操做庫,集合,文檔的增刪改查
    若是使用其餘數據庫登陸,只能按照本身規定的數據庫的角色進行操做

2.開啓帳戶認證

爲了安全咱們須要在配置文件中設置密碼
1.配置文件 bin下的mongod.cfg文檔
2.找到文檔中的#security:  (用來進行安全配置)
security：
    authorization: enabled
# 注意縮進

重啓MongoDB Server服務，啓用認證！

帳號檢測

#直接mongo進入程序  已經沒法查看數據庫
show dbs 

#登陸方式1:  authenticationDatabase指定數據庫
mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin"

#登陸方式2:
進入mongo後
use admin
db.auth("root","123")
#1 表示登錄成功

進入mongo後
use test1
db.auth("henry","123")

#刪除帳號 注意:只有在admin下登陸進入用戶註冊的數據庫才能刪除用戶帳號
db.dropUser('用戶名');

#修改密碼
db.changeUserPassword(用戶名, 新密碼);

#查看幫助信息
db.help

五.Mongodb操做

1.庫的操做

#建立數據庫:
use 數據庫名稱
#若是有則切換沒有則建立新的

# 查看數據庫:
show dbs
#注意show dbs 有數據的庫顯示沒有數據的庫不顯示

#刪除
db.dropDatabase()
#注意區分大小寫

2.集合的操做

集合是一個存儲數據元素的容器類比mysql中的表css

進入指定數據庫
#建立集合:
db.user

#查看集合:
show collections
show tables
# 一樣的數據集合中沒有數據則 不會顯示

#如下數據之間沒有任何關係僅僅是名字有相同部分 數據之間的關係須要應用程序維護
db.blog
db.blog.user  #(創建了一個叫blog.user的集合)
db.blog.common

#刪除集合:若是集合中沒有文檔,刪除的話會返回false,有文檔刪除纔是true
db.blog.user.drop()
db.user.drop()

3.記錄的(文檔)操做

插入數據

#一、沒有指定_id 則會默認生成_id值爲ObjectId,_id不能重複，且在插入後不可變.
#MngoDB的語法就是js的語法 因此 json支持的數據類型 MongoDB都支持

#二、插入單條
user={
    "name":"egon",
    "age":10,
    'hobbies':['music','read','dancing'],
    'addr':{
        'country':'China',
        'city':'BJ'
    }
}

db.test.insert(user)

# 若是id已經存在則覆蓋,不然插入
db.test.save({"_id":10,"name":"henry"})


#三、插入多條
user1={
    "_id":1,
    "name":"alex",
    "age":10,
    'hobbies':['music','read','dancing'],
    'addr':{
        'country':'China',
        'city':'weifang'
    }
}

user2={
    "_id":2,
    "name":"wupeiqi",
    "age":20,
    'hobbies':['music','read','run'],
    'addr':{
        'country':'China',
        'city':'hebei'
    }
}


user3={
    "_id":3,
    "name":"yuanhao",
    "age":30,
    'hobbies':['music','drink'],
    'addr':{
        'country':'China',
        'city':'heibei'
    }
}

user4={
    "_id":4,
    "name":"jingliyang",
    "age":40,
    'hobbies':['music','read','dancing','tea'],
    'addr':{
        'country':'China',
        'city':'BJ'
    }
}

user5={
    "_id":5,
    "name":"jinxin",
    "age":50,
    'hobbies':['music','read',],
    'addr':{
        'country':'China',
        'city':'henan'
    }
}
db.user.insertMany([user1,user2,user3,user4,user5])

查詢數據

find 查找全部匹配數據
findOne 查找第一個匹配的
db.user.find().pretty()  # 格式化查詢結果

=============================比較運算=============================
# SQL：=,!=,>,<,>=,<=
# MongoDB：{key:value}表明什麼等於什麼,"$ne","$gt","$lt","gte","lte",其中"$ne"能用於全部數據類型

#一、select * from db1.user where name = "cxx";
db.user.find({'name':'cxx'})

#二、select * from db1.user where name != "cxx";
db.user.find({'name':{"$ne":'cxx'}})

#三、select * from db1.user where id > 2;
db.user.find({'_id':{'$gt':2}})

#四、select * from db1.user where id < 3;
db.user.find({'_id':{'$lt':3}})

#五、select * from db1.user where id >= 2;
db.user.find({"_id":{"$gte":2,}})

#六、select * from db1.user where id <= 2;
db.user.find({"_id":{"$lte":2}})


=============================邏輯運算=============================
# SQL：and，or，not
# MongoDB：字典中逗號分隔的多個條件是and關係，"$or"的條件放到[]內,"$not"

#一、select * from db1.user where id >= 2 and id < 4;
db.user.find({'_id':{"$gte":2,"$lt":4}})

#二、select * from db1.user where id >= 2 and age < 40;
db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})

#三、select * from db1.user where id >= 5 or name = "cxx";
db.user.find({
    "$or":[
        {'_id':{"$gte":5}},
        {"name":"cxx"}
        ]
})

#四、select * from db1.user where id % 2=1;
#id爲奇數的數據
db.user.find({'_id':{"$mod":[2,1]}})

#五、上題，取反
db.user.find({'_id':{"$not":{"$mod":[2,1]}}})


=============================成員運算=============================

# SQL：in，not in
# MongoDB："$in","$nin"

#一、select * from db1.user where age in (20,30,31);
db.user.find({"age":{"$in":[20,30,31]}})

#二、select * from db1.user where name not in ('alex','yuanhao');
db.user.find({"name":{"$nin":['alex','yuanhao']}})


=============================查詢指定字段=============================
db.user.find({'_id':3},{'_id':0,'name':1,'age':1})
#{ "name" : "yuanhao", "age" : 30 }

db.user.find({'_id':3},{'name':1,'age':1})
#{ "_id" : 3, "name" : "yuanhao", "age" : 30 }
0表示不顯示,1爲顯示 id默認爲1 其他字段默認爲0


=============================正則匹配=============================
# SQL: regexp 正則
# MongoDB: /正則表達/i    i忽略大小寫

#一、select * from db1.user where name regexp '^j.*?(g|n)$';
db.user.find({'name':/^j.*?(g|n)$/i})


=============================查詢數組=============================
#一、查看有dancing愛好的人
db.user.find({'hobbies':'dancing'})

#二、查看既有dancing愛好又有tea愛好的人
db.user.find({
    'hobbies':{
        "$all":['dancing','tea']
        }
})

#三、查看第4個愛好爲tea的人
db.user.find({"hobbies.3":'tea'})

#四、查看全部人最後兩個愛好
db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})

#五、查看全部人的第2個到第3個愛好  {"$slice":[1,2]}從索引1開始取兩個值
db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})

===============================其餘===============================
# 排序:1表明升序，-1表明降序
db.user.find().sort({"name":1,})
db.user.find().sort({"age":-1,'_id':1}) 
db.user.find().sort({"_id":1,'age':-1}) 
#先以第一個key爲依據排列,第一個相同再按照第二個排列


# 分頁:limit表明取多少個document，skip表明跳過前多少個document。 
db.user.find().sort({'age':1}).limit(1).skip(2)

# 獲取數量
db.user.count({'age':{"$gt":30}}) 
db.user.find({'age':{"$gt":30}}).count()


#一、{'key':null} 匹配key的值爲null或者沒有這個key
db.t2.insert({'a':10,'b':111})
db.t2.insert({'a':20})
db.t2.insert({'b':null})

> db.t2.find({"b":null})
{ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }
{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }


#二、查找全部
db.user.find() #等同於db.user.find({})

#三、查找一個，與find用法一致，只是只取匹配成功的第一個
db.user.findOne({"_id":{"$gt":3}})

修改數據

======================================update==========================================

update() 方法用於更新已存在的文檔。語法格式以下：
db.collection.update(
   <query>,
   <update>,
   {
     upsert: <boolean>,
     multi: <boolean>,
     writeConcern: <document>
   }
)
參數說明：對比update db1.t1 set name='EGON',sex='Male' where name='egon' and age=18;

query : 至關於where條件。
update : update的對象和一些更新的操做符（如$,$inc...等，至關於set後面的
upsert : 可選，默認爲false，表明若是不存在update的記錄不更新也不插入，設置爲true表明插入。
multi : 可選，默認爲false，表明只更新找到的第一條記錄，設爲true,表明更新找到的所有記錄。
writeConcern :可選，拋出異常的級別。

更新操做是不可分割的：若兩個更新同時發送，先到達服務器的先執行，而後執行另一個，不會破壞文檔。


=========================================覆蓋式=========================================
#注意：除非是刪除，不然_id是始終不會變的
#覆蓋式:
db.user.update({'age':20},{"name":"Wxx","hobbies_count":3})
是用{"_id":2,"name":"Wxx","hobbies_count":3}覆蓋原來的記錄



=====================================設置:$set=========================================

一般文檔只會有一部分須要更新。可使用原子性的更新修改器，指定對文檔中的某些字段進行更新。
更新修改器是種特殊的鍵，用來指定複雜的更新操做，好比修改、增長後者刪除

#一、update db1.user set  name="WXX" where id = 2
db.user.update({'_id':2},{"$set":{"name":"WXX"}})

#二、沒有匹配成功則新增一條{"upsert":true}
db.user.update({'_id':6},{"$set":{"name":"egon","age":18}},{"upsert":true})

#三、默認只改匹配成功的第一條,{"multi":改多條}
db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}})
db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true})

#四、修改內嵌文檔，把名字爲alex的人所在的地址國家改爲Japan
db.user.update({'name':"alex"},{"$set":{"addr.country":"Japan"}})

#五、把名字爲alex的人的地2個愛好改爲piao
db.user.update({'name':"alex"},{"$set":{"hobbies.1":"piao"}})

#六、刪除alex的愛好,$unset
db.user.update({'name':"alex"},{"$unset":{"hobbies":""}})



=============================增長和減小$inc=====================================
#一、全部人年齡增長一歲
db.user.update({},
    {
        "$inc":{"age":1}
    },
    {
        "multi":true
    }
    )
#二、全部人年齡減小5歲
db.user.update({},
    {
        "$inc":{"age":-5}
    },
    {
        "multi":true
    }
    )
===============================添加刪除數組元素==================================
往數組內添加元素:$push
#一、爲名字爲yuanhao的人添加一個愛好read
db.user.update({"name":"yuanhao"},{"$push":{"hobbies":"read"}})

#二、爲名字爲yuanhao的人一次添加多個愛好tea，dancing
db.user.update({"name":"yuanhao"},{"$push":{
    "hobbies":{"$each":["tea","dancing"]}
}})

按照位置且只能從開頭或結尾刪除元素：$pop
#三、{"$pop":{"key":1}} 從數組末尾刪除一個元素

db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":1}
})

#四、{"$pop":{"key":-1}} 從頭部刪除
db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":-1}
})

#五、按照條件刪除元素,："$pull" 把符合條件的通通刪掉，而$pop只能從兩端刪
db.user.update({'addr.country':"China"},{"$pull":{
    "hobbies":"read"}
},
{
    "multi":true
}
)


=====================================避免添加劇復：$addToSet===========================
#自動去除重複
db.urls.insert({"_id":1,"urls":[]})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})

db.urls.update({"_id":1},{
    "$addToSet":{
        "urls":{
        "$each":[
            'http://www.baidu.com',
            'http://www.baidu.com',
            'http://www.xxxx.com'
            ]
            }
        }
    }
)


=====================================其餘========================================
#一、瞭解：限制大小"$slice"，只留最後n個

db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read",'music','dancing'],
        "$slice":-2
    }
    }
})

#二、瞭解：排序The $sort element value must be either 1 or -1"
db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read",'music','dancing'],
        "$slice":-1,
        "$sort":-1
    }
    }
})

#slice 把以前的值所有刪掉 再切割出指定的數據 加入列表
#注意：不能只將"$slice"或者"$sort"與"$push"配合使用，且必須使用"$each"

刪除數據

#一、刪除多箇中的第一個
db.user.deleteOne({ 'age': 8 })

#二、刪除國家爲China的所有
db.user.deleteMany( {'addr.country': 'China'} ) 

#三、刪除所有
db.user.deleteMany({})

六.可視化

安裝:Robo 3T

七.pymongo

from pymongo import MongoClient

#一、連接
client=MongoClient('mongodb://root:123@localhost:27017/')

# client = MongoClient('localhost', 27017)
# db = client["admin"]
# db.authenticate("root","123")

#二、use 數據庫
db=client['db1']  #等同於：client.db1

#三、查看庫下全部的集合
print(db.collection_names(include_system_collections=False))

#四、建立集合
table_user = db['user'] #等同於：db.user

#五、插入文檔
table_user.insert({"_id":30,"name":"wade"})

#六、查找
print(table_user.find_one())

for item in table_user.find():
    print(item)

print(table_user.find_one({"_id":{"$gte":1},"name":'egon'}))

#七、更新
table_user.update({'_id':1},{"$set":{'name':'EGON'}})

#八、傳入新的文檔替換舊的文檔
table_user.save(
    {
        "_id":2,
        "name":'egon_xxx'
    }
)

#9.刪除數據
table_user.delete_one({"name":"wade"})

八.分組聚合

#插入一組數據
from pymongo import MongoClient
import datetime

client=MongoClient('mongodb://root:123@localhost:27017')
table=client['db1']['emp']

l=[
('張飛','male',18,'20170301','teacher',7300.33,401,1), #如下是教學部
('張雲','male',78,'20150302','teacher',1000000.31,401,1),
('劉備','male',81,'20130305','teacher',8300,401,1),
('關羽','male',73,'20140701','teacher',3500,401,1),
('曹操','male',28,'20121101','teacher',2100,401,1),
('諸葛亮','female',18,'20110211','teacher',9000,401,1),
('周瑜','male',18,'19000301','teacher',30000,401,1),
('司馬懿','male',48,'20101111','teacher',10000,401,1),

('袁紹','female',48,'20150311','sale',3000.13,402,2),#如下是銷售部門
('張全蛋','female',38,'20101101','sale',2000.35,402,2),
('鵪鶉蛋','female',18,'20110312','sale',1000.37,402,2),
('王尼瑪','female',18,'20160513','sale',3000.29,402,2),
('我尼瑪','female',28,'20170127','sale',4000.33,402,2),

('楊過','male',28,'20160311','operation',10000.13,403,3), #如下是運營部門
('小龍女','male',18,'19970312','operation',20000,403,3),
('郭靖','female',18,'20130311','operation',19000,403,3),
('黃蓉','male',18,'20150411','operation',18000,403,3),
('梅超風','female',18,'20140512','operation',17000,403,3)
]

for n,item in enumerate(l):
    d={
        "_id":n,
        'name':item[0],
        'sex':item[1],
        'age':item[2],
        'hire_date':datetime.datetime.strptime(item[3],'%Y%m%d'),
        'post':item[4],
        'salary':item[5]
    }
    table.save(d)

案例:爬取京東並將數據存入mongoDB

#爬取數據
from selenium.webdriver import Chrome
from urllib.parse import urlencode
import time
from MongoDB.爬取京東 import DBTool

driver = Chrome()
#https://search.jd.com/Search?keyword=%E6%9D%9C%E8%95%BE%E6%96%AF&enc=utf-8&wq=%E6%9D%9C%E8%95%BE%E6%96%AF&page=3

#使用 urlencode 傳入指點key-value字典形式,返回值能夠直接完成路徑拼接
kw = input("搜索:").strip()
num = int(input("要獲取幾頁數據:").strip())

def get_all_datas(i,kw):
    par = {"keyword":kw,"enc":"utf-8","wq":kw,"page":i}
    kw = urlencode(par)
    url = "https://search.jd.com/Search?" + kw
    driver.get(url)

    #隱式等待
    driver.implicitly_wait(10)

    #執行js代碼獲取頁面總高度
    height = driver.execute_script("return document.body.clientHeight")

    #執行js代碼滑動頁面.完成頁面的加載
    driver.execute_script("""
        window.scrollTo({
            top : %s,
            behavior:"smooth"
        });""" % height)

    #獲取商品列表
    def get_items():
        #獲取包裹商品的大標籤
        ul = driver.find_element_by_class_name("gl-warp")

        #獲取商品列表
        items = ul.find_elements_by_class_name("gl-item")
        #判斷數據是否所有加載完畢
        if len(items) == 60:
            return items

        #沒有加載完畢回調函數,直到該頁面的數據所有加載完畢
        return get_items()

    #調用獲取函數獲取數據
    items = get_items()

    #解析商品列表.獲得所需數據
    for i in items:
        link = i.find_element_by_css_selector(".p-img a").get_attribute("href")
        img = i.find_element_by_css_selector(".p-img a img").get_attribute("src")
        if not img:
            img = i.find_element_by_css_selector(".p-img a img").get_attribute("data-lazy-img")
            img = "https:" + img
        price = i.find_element_by_css_selector(".p-price i").text
        title = i.find_element_by_css_selector(".p-name a em").text
        shop_name = i.find_element_by_css_selector(".p-shop a").text
        commit = i.find_element_by_css_selector(".p-commit strong").text
        dic = {"link":link,"img":img,"price":price,"title":title,"shop_name":shop_name,"commit":commit}
        #將數據存放到MongoDB中去
        DBTool.insert_data(dic)


for i in range(num):
    i = 2*i+1
    get_all_datas(i,kw)

time.sleep(30)
#關閉瀏覽器
driver.close()
#關閉mongoDB數據庫鏈接
DBTool.close()



#DBTool
"""
鏈接數據庫 保存數據
"""
from pymongo import MongoClient
table = None
c = None

#鏈接服務
def connect_service():
    global table,c
    c = MongoClient("mongodb://root:123@127.0.0.1:27017")
    table = c["jd"]["jd_data"]

#插入數據
def insert_data(data):
    if not table:
        connect_service()
    table.insert(data)

#關閉鏈接
def close():
    c.close()