【Python3網絡爬蟲開發實戰】5-數據存儲-3-非關係型數據庫存儲-2 Redis存儲

時間 2019-11-17

標籤 python3 python 網絡爬蟲開發實戰數據存儲關係數據庫 redis 欄目 Python 简体版

原文原文鏈接

Redis是一個基於內存的高效的鍵值型非關係型數據庫，存取效率極高，並且支持多種存儲數據結構，使用也很是簡單。本節中，咱們就來介紹一下Python的Redis操做，主要介紹RedisPy這個庫的用法。html

1. 準備工做

在開始以前，請確保已經安裝好了Redis及RedisPy庫。若是要作數據導入/導出操做的話，還須要安裝RedisDump。若是沒有安裝，能夠參考第1章。redis

2. Redis和StrictRedis

RedisPy庫提供兩個類Redis和StrictRedis來實現Redis的命令操做。數據庫

StrictRedis實現了絕大部分官方的命令，參數也一一對應，好比set()方法就對應Redis命令的set方法。而Redis是StrictRedis的子類，它的主要功能是用於向後兼容舊版本庫裏的幾個方法。爲了作兼容，它將方法作了改寫，好比lrem()方法就將value和num參數的位置互換，這和Redis命令行的命令參數不一致。json

官方推薦使用StrictRedis，因此本節中咱們也用StrictRedis類的相關方法做演示。bash

3. 鏈接Redis

如今咱們已經在本地安裝了Redis並運行在6379端口，密碼設置爲foobared。那麼，能夠用以下示例鏈接Redis並測試：微信

from redis import StrictRedis

redis = StrictRedis(host='localhost', port=6379, db=0, password='foobared')

redis.set('name', 'Bob')

print(redis.get('name'))

這裏咱們傳入了Redis的地址、運行端口、使用的數據庫和密碼信息。在默認不傳的狀況下，這4個參數分別爲localhost、6379、0和None。首先聲明瞭一個StrictRedis對象，接下來調用set()方法，設置一個鍵值對，而後將其獲取並打印。網絡

運行結果以下：數據結構

b'Bob'

這說明咱們鏈接成功，並能夠執行set()和get()操做了。架構

固然，咱們還可使用ConnectionPool來鏈接，示例以下：app

from redis import StrictRedis, ConnectionPool

pool = ConnectionPool(host='localhost', port=6379, db=0, password='foobared')

redis = StrictRedis(connection_pool=pool)

這樣的鏈接效果是同樣的。觀察源碼能夠發現，StrictRedis內其實就是用host和port等參數又構造了一個ConnectionPool，因此直接將ConnectionPool看成參數傳給StrictRedis也同樣。

另外，ConnectionPool還支持經過URL來構建。URL的格式支持有以下3種：

redis://[:password]@host:port/db

rediss://[:password]@host:port/db

unix://[:password]@/path/to/socket.sock?db=db

這3種URL分別表示建立Redis TCP鏈接、Redis TCP+SSL鏈接、Redis UNIX socket鏈接。咱們只須要構造上面任意一種URL便可，其中password部分若是有則能夠寫，沒有則能夠省略。下面再用URL鏈接演示一下：

url = 'redis://:foobared@localhost:6379/0'

pool = ConnectionPool.from_url(url)

redis = StrictRedis(connection_pool=pool)

這裏咱們使用第一種鏈接字符串進行鏈接。首先，聲明一個Redis鏈接字符串，而後調用from_url()方法建立ConnectionPool，接着將其傳給StrictRedis便可完成鏈接，因此使用URL的鏈接方式仍是比較方便的。

4. 鍵操做

表5-5總結了鍵的一些判斷和操做方法。

表5-5 鍵的一些判斷和操做方法

方法	做用	參數說明	示例	示例說明	示例結果
`exists(name)`	判斷一個鍵是否存在	`name`：鍵名	`redis.exists('name')`	是否存在`name`這個鍵	`True`
`delete(name)`	刪除一個鍵	`name`：鍵名	`redis.delete('name')`	刪除`name`這個鍵	1
`type(name)`	判斷鍵類型	`name`：鍵名	`redis.type('name')`	判斷`name`這個鍵類型	`b'string'`
`keys(pattern)`	獲取全部符合規則的鍵	`pattern`：匹配規則	`redis.keys('n*')`	獲取全部以`n`開頭的鍵	`[b'name']`
`randomkey()`	獲取隨機的一個鍵		`randomkey()`	獲取隨機的一個鍵	`b'name'`
`rename(src, dst)`	重命名鍵	`src`：原鍵名；`dst`：新鍵名	`redis.rename('name', 'nickname')`	將`name`重命名爲`nickname`	`True`
`dbsize()`	獲取當前數據庫中鍵的數目		`dbsize()`	獲取當前數據庫中鍵的數目	100
`expire(name, time)`	設定鍵的過時時間，單位爲秒	`name`：鍵名；`time`：秒數	`redis.expire('name', 2)`	將`name`鍵的過時時間設置爲2秒	`True`
`ttl(name)`	獲取鍵的過時時間，單位爲秒，-1表示永久不過時	`name`：鍵名	`redis.ttl('name')`	獲取`name`這個鍵的過時時間	-1
`move(name, db)`	將鍵移動到其餘數據庫	`name`：鍵名；`db`：數據庫代號	`move('name', 2)`	將`name`移動到2號數據庫	`True`
`flushdb()`	刪除當前選擇數據庫中的全部鍵		`flushdb()`	刪除當前選擇數據庫中的全部鍵	`True`
`flushall()`	刪除全部數據庫中的全部鍵		`flushall()`	刪除全部數據庫中的全部鍵	`True`

5. 字符串操做

Redis支持最基本的鍵值對形式存儲，用法總結如表5-6所示。

表5-6 鍵值對形式存儲

方法	做用	參數說明	示例	示例說明	示例結果
`set(name, value)`	給數據庫中鍵爲`name`的`string`賦予值`value`	`name`: 鍵名；`value`: 值	`redis.set('name', 'Bob')`	給`name`這個鍵的`value`賦值爲`Bob`	`True`
`get(name)`	返回數據庫中鍵爲`name`的`string`的`value`	`name`：鍵名	`redis.get('name')`	返回`name`這個鍵的`value`	`b'Bob'`
`getset(name, value)`	給數據庫中鍵爲`name`的`string`賦予值`value`並返回上次的`value`	`name`：鍵名；`value`：新值	`redis.getset('name', 'Mike')`	賦值`name`爲`Mike`並獲得上次的`value`	`b'Bob'`
`mget(keys, *args)`	返回多個鍵對應的`value`	`keys`：鍵的列表	`redis.mget(['name', 'nickname'])`	返回`name`和`nickname`的`value`	`[b'Mike', b'Miker']`
`setnx(name, value)`	若是不存在這個鍵值對，則更新`value`，不然不變	`name`：鍵名	`redis.setnx('newname', 'James')`	若是`newname`這個鍵不存在，則設置值爲`James`	第一次運行結果是`True`，第二次運行結果是`False`
`setex(name, time, value)`	設置能夠對應的值爲`string`類型的`value`，並指定此鍵值對應的有效期	`name`: 鍵名；`time`: 有效期； `value`：值	`redis.setex('name', 1, 'James')`	將`name`這個鍵的值設爲`James`，有效期爲1秒	`True`
`setrange(name, offset, value)`	設置指定鍵的`value`值的子字符串	`name`：鍵名；`offset`：偏移量；`value`：值	`redis.set('name', 'Hello') redis.setrange('name', 6, 'World')`	設置`name`爲`Hello`字符串，並在`index`爲6的位置補`World`	11，修改後的字符串長度
`mset(mapping)`	批量賦值	`mapping`：字典	`redis.mset({'name1': 'Durant', 'name2': 'James'})`	將`name1`設爲`Durant`，`name2`設爲`James`	`True`
`msetnx(mapping)`	鍵均不存在時才批量賦值	`mapping`：字典	`redis.msetnx({'name3': 'Smith', 'name4': 'Curry'})`	在`name3`和`name4`均不存在的狀況下才設置兩者值	`True`
`incr(name, amount=1)`	鍵爲`name`的`value`增值操做，默認爲1，鍵不存在則被建立並設爲`amount`	`name`：鍵名；`amount`：增加的值	`redis.incr('age', 1)`	`age`對應的值增1，若不存在，則會建立並設置爲1	1，即修改後的值
`decr(name, amount=1)`	鍵爲`name`的`value`減值操做，默認爲1，鍵不存在則被建立並將`value`設置爲`-amount`	`name`：鍵名； `amount`：減小的值	`redis.decr('age', 1)`	`age`對應的值減1，若不存在，則會建立並設置爲-1	-1，即修改後的值
`append(key, value)`	鍵爲`name`的`string`的值附加`value`	`key`：鍵名	`redis.append('nickname', 'OK')`	向鍵爲`nickname`的值後追加`OK`	13，即修改後的字符串長度
`substr(name, start, end=-1)`	返回鍵爲`name`的`string`的子串	`name`：鍵名；`start`：起始索引；`end`：終止索引，默認爲-1，表示截取到末尾	`redis.substr('name', 1, 4)`	返回鍵爲`name`的值的字符串，截取索引爲1~4的字符	`b'ello'`
`getrange(key, start, end)`	獲取鍵的`value`值從`start`到`end`的子字符串	`key`：鍵名；`start`：起始索引；`end`：終止索引	`redis.getrange('name', 1, 4)`	返回鍵爲`name`的值的字符串，截取索引爲1~4的字符	`b'ello'`

6. 列表操做

Redis還提供了列表存儲，列表內的元素能夠重複，並且能夠從兩端存儲，用法如表5-7所示。

表5-7 列表操做

方法	做用	參數說明	示例	示例說明	示例結果
`rpush(name, *values)`	在鍵爲`name`的列表末尾添加值爲`value`的元素，能夠傳多個	`name`：鍵名；`values`：值	`redis.rpush('list', 1, 2, 3)`	向鍵爲`list`的列表尾添加一、二、3	3，列表大小
`lpush(name, *values)`	在鍵爲`name`的列表頭添加值爲`value`的元素，能夠傳多個	`name`：鍵名；`values`：值	`redis.lpush('list', 0)`	向鍵爲`list`的列表頭部添加0	4，列表大小
`llen(name)`	返回鍵爲`name`的列表的長度	`name`：鍵名	`redis.llen('list')`	返回鍵爲`list`的列表的長度	4
`lrange(name, start, end)`	返回鍵爲`name`的列表中`start`至`end`之間的元素	`name`：鍵名；`start`：起始索引；`end`：終止索引	`redis.lrange('list', 1, 3)`	返回起始索引爲1終止索引爲3的索引範圍對應的列表	`[b'3', b'2', b'1']`
`ltrim(name, start, end)`	截取鍵爲`name`的列表，保留索引爲`start`到`end`的內容	`name`：鍵名；`start`：起始索引；`end`：終止索引	`ltrim('list', 1, 3)`	保留鍵爲`list`的索引爲1到3的元素	`True`
`lindex(name, index)`	返回鍵爲`name`的列表中`index`位置的元素	`name`：鍵名；`index`：索引	`redis.lindex('list', 1)`	返回鍵爲`list`的列表索引爲1的元素	b’2′
`lset(name, index, value)`	給鍵爲`name`的列表中`index`位置的元素賦值，越界則報錯	`name`：鍵名；`index`：索引位置；`value`：值	`redis.lset('list', 1, 5)`	將鍵爲`list`的列表中索引爲1的位置賦值爲5	`True`
`lrem(name, count, value)`	刪除`count`個鍵的列表中值爲`value`的元素	`name`：鍵名；`count`：刪除個數；`value`：值	`redis.lrem('list', 2, 3)`	將鍵爲`list`的列表刪除兩個3	1，即刪除的個數
`lpop(name)`	返回並刪除鍵爲`name`的列表中的首元素	`name`：鍵名	`redis.lpop('list')`	返回並刪除名爲`list`的列表中的第一個元素	`b'5'`
`rpop(name)`	返回並刪除鍵爲`name`的列表中的尾元素	`name`：鍵名	`redis.rpop('list')`	返回並刪除名爲`list`的列表中的最後一個元素	`b'2'`
`blpop(keys, timeout=0)`	返回並刪除名稱在`keys`中的`list`中的首個元素，若是列表爲空，則會一直阻塞等待	`keys`：鍵列表；`timeout`：超時等待時間，0爲一直等待	`redis.blpop('list')`	返回並刪除鍵爲`list`的列表中的第一個元素	`[b'5']`
`brpop(keys, timeout=0)`	返回並刪除鍵爲`name`的列表中的尾元素，若是`list`爲空，則會一直阻塞等待	`keys`：鍵列表；`timeout`：超時等待時間，0爲一直等待	`redis.brpop('list')`	返回並刪除名爲`list`的列表中的最後一個元素	`[b'2']`
`rpoplpush(src, dst)`	返回並刪除名稱爲`src`的列表的尾元素，並將該元素添加到名稱爲`dst`的列表頭部	`src`：源列表的鍵；`dst`：目標列表的key	`redis.rpoplpush('list', 'list2')`	將鍵爲`list`的列表尾元素刪除並將其添加到鍵爲`list2`的列表頭部，而後返回	`b'2'`

7. 集合操做

Redis還提供了集合存儲，集合中的元素都是不重複的，用法如表5-8所示。

表5-8 集合操做

方法	做用	參數說明	示例	示例說明	示例結果
`sadd(name, *values)`	向鍵爲`name`的集合中添加元素	`name`：鍵名；`values`：值，可爲多個	`redis.sadd('tags', 'Book', 'Tea', 'Coffee')`	向鍵爲`tags`的集合中添加`Book`、`Tea`和`Coffee`這3個內容	3，即插入的數據個數
`srem(name, *values)`	從鍵爲`name`的集合中刪除元素	`name`：鍵名；`values`：值，可爲多個	`redis.srem('tags', 'Book')`	從鍵爲`tags`的集合中刪除`Book`	1，即刪除的數據個數
`spop(name)`	隨機返回並刪除鍵爲`name`的集合中的一個元素	`name`：鍵名	`redis.spop('tags')`	從鍵爲`tags`的集合中隨機刪除並返回該元素	`b'Tea'`
`smove(src, dst, value)`	從`src`對應的集合中移除元素並將其添加到`dst`對應的集合中	`src`：源集合；`dst`：目標集合；`value`：元素值	`redis.smove('tags', 'tags2', 'Coffee')`	從鍵爲`tags`的集合中刪除元素`Coffee`並將其添加到鍵爲`tags2`的集合	`True`
`scard(name)`	返回鍵爲`name`的集合的元素個數	`name`：鍵名	`redis.scard('tags')`	獲取鍵爲`tags`的集合中的元素個數	3
`sismember(name, value)`	測試`member`是不是鍵爲`name`的集合的元素	`name`：鍵值	`redis.sismember('tags', 'Book')`	判斷`Book`是不是鍵爲`tags`的集合元素	`True`
`sinter(keys, *args)`	返回全部給定鍵的集合的交集	`keys`：鍵列表	`redis.sinter(['tags', 'tags2'])`	返回鍵爲`tags`的集合和鍵爲`tags2`的集合的交集	`{b'Coffee'}`
`sinterstore(dest, keys, *args)`	求交集並將交集保存到`dest`的集合	`dest`：結果集合；`keys`：鍵列表	`redis.sinterstore('inttag', ['tags', 'tags2'])`	求鍵爲`tags`的集合和鍵爲`tags2`的集合的交集並將其保存爲`inttag`	1
`sunion(keys, *args)`	返回全部給定鍵的集合的並集	`keys`：鍵列表	`redis.sunion(['tags', 'tags2'])`	返回鍵爲`tags`的集合和鍵爲`tags2`的集合的並集	`{b'Coffee', b'Book', b'Pen'}`
`sunionstore(dest, keys, *args)`	求並集並將並集保存到`dest`的集合	`dest`：結果集合；`keys`：鍵列表	`redis.sunionstore('inttag', ['tags', 'tags2'])`	求鍵爲`tags`的集合和鍵爲`tags2`的集合的並集並將其保存爲`inttag`	3
`sdiff(keys, *args)`	返回全部給定鍵的集合的差集	`keys`：鍵列表	`redis.sdiff(['tags', 'tags2'])`	返回鍵爲`tags`的集合和鍵爲`tags2`的集合的差集	`{b'Book', b'Pen'}`
`sdiffstore(dest, keys, *args)`	求差集並將差集保存到`dest`集合	`dest`：結果集合；`keys`：鍵列表	`redis.sdiffstore('inttag', ['tags', 'tags2'])`	求鍵爲tags`的集合和鍵爲`tags2`的集合的差集並將其保存爲`inttag`	3
`smembers(name)`	返回鍵爲`name`的集合的全部元素	`name`：鍵名	`redis.smembers('tags')`	返回鍵爲`tags`的集合的全部元素	`{b'Pen', b'Book', b'Coffee'}`
`srandmember(name)`	隨機返回鍵爲`name`的集合中的一個元素，但不刪除元素	`name`：鍵值	`redis.srandmember('tags')`	隨機返回鍵爲`tags`的集合中的一個元素

8. 有序集合操做

有序集合比集合多了一個分數字段，利用它能夠對集合中的數據進行排序，其用法總結如表5-9所示。

表5-9 有序集合操做

方法	做用	參數說明	示例	示例說明	示例結果
`zadd(name, args, *kwargs)`	向鍵爲`name`的zset中添加元素member，score用於排序。若是該元素存在，則更新其順序	`name`：鍵名；`args`：可變參數	`redis.zadd('grade', 100, 'Bob', 98, 'Mike')`	向鍵爲`grade`的zset中添加`Bob`（其`score`爲100），並添加`Mike`（其`score`爲98）	2，即添加的元素個數
`zrem(name, *values)`	刪除鍵爲`name`的zset中的元素	`name`：鍵名；`values`：元素	`redis.zrem('grade', 'Mike')`	從鍵爲`grade`的zset中刪除`Mike`	1，即刪除的元素個數
`zincrby(name, value, amount=1)`	若是在鍵爲`name`的zset中已經存在元素`value`，則將該元素的`score`增長`amount`；不然向該集合中添加該元素，其`score`的值爲`amount`	`name`：key名；`value`：元素；`amount`：增加的`score`值	`redis.zincrby('grade', 'Bob', -2)`	鍵爲`grade`的zset中`Bob`的`score`減2	98.0，即修改後的值
`zrank(name, value)`	返回鍵爲`name`的zset中元素的排名，按`score`從小到大排序，即名次	`name`：鍵名；`value`：元素值	`redis.zrank('grade', 'Amy')`	獲得鍵爲`grade`的zset中`Amy`的排名	1
`zrevrank(name, value)`	返回鍵爲`name`的zset中元素的倒數排名（按`score`從大到小排序），即名次	`name`：鍵名；`value`：元素值	`redis.zrevrank('grade', 'Amy')`	獲得鍵爲`grade`的zset中`Amy`的倒數排名	2
`zrevrange(name, start, end, withscores=False)`	返回鍵爲`name`的zset（按`score`從大到小排序）中`index`從`start`到`end`的全部元素	`name`：鍵值；`start`：開始索引；`end`：結束索引；`withscores`：是否帶`score`	`redis.zrevrange('grade', 0, 3)`	返回鍵爲`grade`的zset中前四名元素	`[b'Bob', b'Mike', b'Amy', b'James']`
`zrangebyscore(name, min, max, start=None, num=None, withscores=False)`	返回鍵爲`name`的zset中`score`在給定區間的元素	`name`：鍵名；`min`：最低`score`；`max`：最高`score`； `start`：起始索引；`num`：個數；`withscores`：是否帶`score`	`redis.zrangebyscore('grade', 80, 95)`	返回鍵爲`grade`的zset中`score`在80和95之間的元素	`[b'Bob', b'Mike', b'Amy', b'James']`
`zcount(name, min, max)`	返回鍵爲`name`的zset中`score`在給定區間的數量	`name`：鍵名；`min`：最低`score`；max：最高`score`	`redis.zcount('grade', 80, 95)`	返回鍵爲`grade`的zset中`score`在80到95的元素個數	2
`zcard(name)`	返回鍵爲`name`的zset的元素個數	`name`：鍵名	`redis.zcard('grade')`	獲取鍵爲`grade`的zset中元素的個數	3
`zremrangebyrank(name, min, max)`	刪除鍵爲`name`的zset中排名在給定區間的元素	`name`：鍵名；`min`：最低位次；`max`：最高位次	`redis.zremrangebyrank('grade', 0, 0)`	刪除鍵爲`grade`的zset中排名第一的元素	1，即刪除的元素個數
`zremrangebyscore(name, min, max)`	刪除鍵爲`name`的zset中`score`在給定區間的元素	`name`：鍵名；`min`：最低`score`；`max`：最高`score`	`redis.zremrangebyscore('grade', 80, 90)`	刪除`score`在80到90之間的元素	1，即刪除的元素個數

9. 散列操做

Redis還提供了散列表的數據結構，咱們能夠用name指定一個散列表的名稱，表內存儲了各個鍵值對，用法總結如表5-10所示。

表5-10 散列操做

方法	做用	參數說明	示例	示例說明	示例結果
`hset(name, key, value)`	向鍵爲`name`的散列表中添加映射	`name`：鍵名；`key`：映射鍵名；`value`：映射鍵值	`hset('price', 'cake', 5)`	向鍵爲`price`的散列表中添加映射關係，`cake`的值爲5	1，即添加的映射個數
`hsetnx(name, key, value)`	若是映射鍵名不存在，則向鍵爲`name`的散列表中添加映射	`name`：鍵名；`key`：映射鍵名；`value`：映射鍵值	`hsetnx('price', 'book', 6)`	向鍵爲`price`的散列表中添加映射關係，`book`的值爲6	1，即添加的映射個數
`hget(name, key)`	返回鍵爲`name`的散列表中`key`對應的值	`name`：鍵名；`key`：映射鍵名	`redis.hget('price', 'cake')`	獲取鍵爲`price`的散列表中鍵名爲`cake`的值	5
`hmget(name, keys, *args)`	返回鍵爲`name`的散列表中各個鍵對應的值	`name`：鍵名；`keys`：映射鍵名列表	`redis.hmget('price', ['apple', 'orange'])`	獲取鍵爲`price`的散列表中`apple`和`orange`的值	`[b'3', b'7']`
`hmset(name, mapping)`	向鍵爲`name`的散列表中批量添加映射	`name`：鍵名；`mapping`：映射字典	`redis.hmset('price', {'banana': 2, 'pear': 6})`	向鍵爲`price`的散列表中批量添加映射	`True`
`hincrby(name, key, amount=1)`	將鍵爲`name`的散列表中映射的值增長`amount`	`name`：鍵名；`key`：映射鍵名；`amount`：增加量	`redis.hincrby('price', 'apple', 3)`	`key`爲`price`的散列表中`apple`的值增長3	6，修改後的值
`hexists(name, key)`	鍵爲`name`的散列表中是否存在鍵名爲鍵的映射	`name`：鍵名；`key`：映射鍵名	`redis.hexists('price', 'banana')`	鍵爲`price`的散列表中`banana`的值是否存在	`True`
`hdel(name, *keys)`	在鍵爲`name`的散列表中，刪除鍵名爲鍵的映射	`name`：鍵名；`keys`：映射鍵名	`redis.hdel('price', 'banana')`	從鍵爲`price`的散列表中刪除鍵名爲`banana`的映射	`True`
`hlen(name)`	從鍵爲`name`的散列表中獲取映射個數	`name`：鍵名	`redis.hlen('price')`	從鍵爲`price`的散列表中獲取映射個數	6
`hkeys(name)`	從鍵爲`name`的散列表中獲取全部映射鍵名	`name`：鍵名	`redis.hkeys('price')`	從鍵爲`price`的散列表中獲取全部映射鍵名	`[b'cake', b'book', b'banana', b'pear']`
`hvals(name)`	從鍵爲`name`的散列表中獲取全部映射鍵值	`name`：鍵名	`redis.hvals('price')`	從鍵爲`price`的散列表中獲取全部映射鍵值	`[b'5', b'6', b'2', b'6']`
`hgetall(name)`	從鍵爲`name`的散列表中獲取全部映射鍵值對	`name`：鍵名	`redis.hgetall('price')`	從鍵爲`price`的散列表中獲取全部映射鍵值對	`{b'cake': b'5', b'book': b'6', b'orange': b'7', b'pear': b'6'}`

10. RedisDump

RedisDump提供了強大的Redis數據的導入和導出功能，如今就來看下它的具體用法。

首先，確保已經安裝好了RedisDump。

RedisDump提供了兩個可執行命令：redis-dump用於導出數據，redis-load用於導入數據。

redis-dump

首先，能夠輸入以下命令查看全部可選項：

1	redis-dump -h

運行結果以下：

Usage: redis-dump [global options] COMMAND [command options]     -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])    -d, --database=S                 Redis database (e.g. -d 15)    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)    -c, --count=S                    Chunk size (default: 10000)    -f, --filter=S                   Filter selected keys (passed directly to redis' KEYS command) -O, --without_optimizations Disable run time optimizations -V, --version Display version -D, --debug --nosafe複製代碼

其中-u表明Redis鏈接字符串，-d表明數據庫代號，-s表明導出以後的休眠時間，-c表明分塊大小，默認是10000，-f表明導出時的過濾器，-O表明禁用運行時優化，-V用於顯示版本，-D表示開啓調試。

咱們拿本地的Redis作測試，運行在6379端口上，密碼爲foobared，導出命令以下：

1	redis-dump -u :foobared@localhost:6379

若是沒有密碼的話，能夠不加密碼前綴，命令以下：

1	redis-dump -u localhost:6379

運行以後，能夠將本地0至15號數據庫的全部數據輸出出來，例如：

{"db":0,"key":"name","ttl":-1,"type":"string","value":"James","size":5}

{"db":0,"key":"name2","ttl":-1,"type":"string","value":"Durant","size":6}

{"db":0,"key":"name3","ttl":-1,"type":"string","value":"Durant","size":6}

{"db":0,"key":"name4","ttl":-1,"type":"string","value":"HelloWorld","size":10}

{"db":0,"key":"name5","ttl":-1,"type":"string","value":"James","size":5}

{"db":0,"key":"name6","ttl":-1,"type":"string","value":"James","size":5}

{"db":0,"key":"age","ttl":-1,"type":"string","value":"1","size":1}

{"db":0,"key":"age2","ttl":-1,"type":"string","value":"-5","size":2}

每條數據都包含6個字段，其中db即數據庫代號，key即鍵名，ttl即該鍵值對的有效時間，type即鍵值類型，value即內容，size即佔用空間。

若是想要將其輸出爲JSON行文件，可使用以下命令：

1	redis-dump -u :foobared@localhost:6379 > ./redis_data.jl

這樣就能夠成功將Redis的全部數據庫的全部數據導出成JSON行文件了。

另外，可使用-d參數指定某個數據庫的導出，例如只導出1號數據庫的內容：

1	redis-dump -u :foobared@localhost:6379 -d 1 > ./redis.data.jl

若是隻想導出特定的內容，好比想導出以adsl開頭的數據，能夠加入-f參數用來過濾，命令以下：

1	redis-dump -u :foobared@localhost:6379 -f adsl:* > ./redis.data.jl

其中-f參數即Redis的keys命令的參數，能夠寫一些過濾規則。

redis-load

一樣，咱們能夠首先輸入以下命令查看全部可選項：

1	redis-load -h

運行結果以下：

redis-load --help  Try: redis-load [global options] COMMAND [command options]     -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])    -d, --database=S                 Redis database (e.g. -d 15)    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)    -n, --no_check_utf8    -V, --version                    Display version    -D, --debug        --nosafe複製代碼

其中-u表明Redis鏈接字符串，-d表明數據庫代號，默認是所有，-s表明導出以後的休眠時間，-n表明不檢測UTF-8編碼，-V表示顯示版本，-D表示開啓調試。

咱們能夠將JSON行文件導入到Redis數據庫中：

1	< redis_data.json redis-load -u :foobared@localhost:6379

這樣就能夠成功將JSON行文件導入到數據庫中了。

另外，下面的命令一樣能夠達到一樣的效果：

1	cat redis_data.json \| redis-load -u :foobared@localhost:6379

本節中，咱們不只瞭解了RedisPy對Redis數據庫的一些基本操做，還演示了RedisDump對數據的導入導出操做。因爲其便捷性和高效性，後面咱們會利用Redis實現不少架構，如維護代理池、Cookies池、ADSL撥號代理池、Scrapy-Redis分佈式架構等，因此Redis的操做須要好好掌握。

本資源首發於崔慶才的我的博客靜覓： Python3網絡爬蟲開發實戰教程 | 靜覓

如想了解更多爬蟲資訊，請關注個人我的微信公衆號：進擊的Coder

weixin.qq.com/r/5zsjOyvEZ… (二維碼自動識別)