Python數據庫鏈接池DBUtils

Python數據庫鏈接池DBUtils

 

DBUtils是Python的一個用於實現數據庫鏈接池的模塊。python

此鏈接池有兩種鏈接模式:mysql

  • 模式一:爲每一個線程建立一個鏈接,線程即便調用了close方法,也不會關閉,只是把鏈接從新放到鏈接池,供本身線程再次使用。當線程終止時,鏈接自動關閉。
      View Code

    POOL = PersistentDB(
    creator=pymysql, # 使用連接數據庫的模塊
    maxusage=None, # 一個連接最多被重複使用的次數,None表示無限制
    setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
    ping=0,
    # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
    closeable=False,
    # 若是爲False時, conn.close() 實際上被忽略,供下次使用,再線程關閉時,纔會自動關閉連接。若是爲True時, conn.close()則關閉連接,那麼再次調用pool.connection時就會報錯,由於已經真的關閉了鏈接(pool.steady_connection()能夠獲取一個新的連接)
    threadlocal=None, # 本線程獨享值得對象,用於保存連接對象,若是連接對象被重置
    host='127.0.0.1',
    port=3306,
    user='root',
    password='123',
    database='pooldb',
    charset='utf8'
    )sql

    def func():
    conn = POOL.connection(shareable=False)
    cursor = conn.cursor()
    cursor.execute('select * from tb1')
    result = cursor.fetchall()
    cursor.close()
    conn.close()數據庫

    func()session

  • 模式二:建立一批鏈接到鏈接池,供全部線程共享使用。
    PS:因爲pymysql、MySQLdb等threadsafety值爲1,因此該模式鏈接池中的線程會被全部線程共享。
      View Code

    import time
    import pymysql
    import threading
    from DBUtils.PooledDB import PooledDB, SharedDBConnection
    POOL = PooledDB(
    creator=pymysql, # 使用連接數據庫的模塊
    maxconnections=6, # 鏈接池容許的最大鏈接數,0和None表示不限制鏈接數
    mincached=2, # 初始化時,連接池中至少建立的空閒的連接,0表示不建立
    maxcached=5, # 連接池中最多閒置的連接,0和None不限制
    maxshared=3, # 連接池中最多共享的連接數量,0和None表示所有共享。PS: 無用,由於pymysql和MySQLdb等模塊的 threadsafety都爲1,全部值不管設置爲多少,_maxcached永遠爲0,因此永遠是全部連接都共享。
    blocking=True, # 鏈接池中若是沒有可用鏈接後,是否阻塞等待。True,等待;False,不等待而後報錯
    maxusage=None, # 一個連接最多被重複使用的次數,None表示無限制
    setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
    ping=0,
    # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
    host='127.0.0.1',
    port=3306,
    user='root',
    password='123',
    database='pooldb',
    charset='utf8'
    )多線程


    def func():
    # 檢測當前正在運行鏈接數的是否小於最大連接數,若是不小於則:等待或報raise TooManyConnections異常
    # 不然
    # 則優先去初始化時建立的連接中獲取連接 SteadyDBConnection。
    # 而後將SteadyDBConnection對象封裝到PooledDedicatedDBConnection中並返回。
    # 若是最開始建立的連接沒有連接,則去建立一個SteadyDBConnection對象,再封裝到PooledDedicatedDBConnection中並返回。
    # 一旦關閉連接後,鏈接就返回到鏈接池讓後續線程繼續使用。
    conn = POOL.connection()post

    # print(th, '連接被拿走了', conn1._con)
    # print(th, '池子裏目前有', pool._idle_cache, '\r\n')性能

    cursor = conn.cursor()
    cursor.execute('select * from tb1')
    result = cursor.fetchall()
    conn.close()fetch


    func()spa

 若是沒有鏈接池,使用pymysql來鏈接數據庫時,單線程應用徹底沒有問題,但若是涉及到多線程應用那麼就須要加鎖,一旦加鎖那麼鏈接勢必就會排隊等待,當請求比較多時,性能就會下降了。

  加鎖

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
import threading
from threading import RLock

LOCK = RLock()
CONN = pymysql.connect(host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')


def task(arg):
with LOCK:
cursor = CONN.cursor()
cursor.execute('select * from tb1')
result = cursor.fetchall()
cursor.close()

print(result)


for i in range(10):
t = threading.Thread(target=task, args=(i,))
t.start()

加鎖

  無鎖(報錯)

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
import threading
CONN = pymysql.connect(host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')


def task(arg):
cursor = CONN.cursor()
cursor.execute('select * from tb1')
result = cursor.fetchall()
cursor.close()

print(result)


for i in range(10):
t = threading.Thread(target=task, args=(i,))
t.start()

無鎖(報錯)

PS: 查看鏈接 show status like 'Threads%';

相關文章
相關標籤/搜索