MYSQL分庫分表總結

 

分庫分表

單庫單表 

單庫單表是最多見的數據庫設計,例如,有一張用戶(user)表放在數據庫db中,全部的用戶均可以在db庫中的user表中查到。 mysql

單庫多表 

隨着用戶數量的增長,user表的數據量會愈來愈大,當數據量達到必定程度的時候對user表的查詢會漸漸的變慢,從而影響整個DB的性能。若是使用mysql, 還有一個更嚴重的問題是,當須要添加一列的時候,mysql會鎖表,期間全部的讀寫操做只能等待。 

能夠經過某種方式將user進行水平的切分,產生兩個表結構徹底同樣的user_0000,user_0001等表,user_0000 + user_0001 + …的數據恰好是一份完整的數據。 sql

多庫多表 

隨着數據量增長也許單臺DB的存儲空間不夠,隨着查詢量的增長單臺數據庫服務器已經沒辦法支撐。這個時候能夠再對數據庫進行水平區分。 數據庫

分庫分表規則 

設計表的時候須要肯定此表按照什麼樣的規則進行分庫分表。例如,當有新用戶時,程序得肯定將此用戶信息添加到哪一個表中;同理,當登陸的時候咱們得經過用戶的帳號找到數據庫中對應的記錄,全部的這些都須要按照某一規則進行。 服務器

路由

經過分庫分表規則查找到對應的表和庫的過程。如分庫分表的規則是user_id mod 4的方式,當用戶新註冊了一個帳號,帳號id的123,咱們能夠經過id mod 4的方式肯定此帳號應該保存到User_0003表中。當用戶123登陸的時候,咱們經過123 mod 4後肯定記錄在User_0003中。 數據庫設計

分庫分表產生的問題,及注意事項 

1.   分庫分表維度的問題 

假如用戶購買了商品,須要將交易記錄保存取來,若是按照用戶的緯度分表,則每一個用戶的交易記錄都保存在同一表中,因此很快很方便的查找到某用戶的購買狀況,可是某商品被購買的狀況則頗有可能分佈在多張表中,查找起來比較麻煩。反之,按照商品維度分表,能夠很方便的查找到此商品的購買狀況,但要查找到買人的交易記錄比較麻煩。 



因此常見的解決方式有: 

     a.經過掃表的方式解決,此方法基本不可能,效率過低了。 

     b.記錄兩份數據,一份按照用戶緯度分表,一份按照商品維度分表。 

     c.經過搜索引擎解決,但若是實時性要求很高,又得關係到實時搜索。 

性能

2.   聯合查詢的問題 

聯合查詢基本不可能,由於關聯的表有可能不在同一數據庫中。 測試

3.   避免跨庫事務 

避免在一個事務中修改db0中的表的時候同時修改db1中的表,一個是操做起來更復雜,效率也會有必定影響。 搜索引擎

4.   儘可能把同一組數據放到同一DB服務器上 


例如將賣家a的商品和交易信息都放到db0中,當db1掛了的時候,賣家a相關的東西能夠正常使用。也就是說避免數據庫中的數據依賴另外一數據庫中的數據。 

一主多備 

在實際的應用中,絕大部分狀況都是讀遠大於寫。Mysql提供了讀寫分離的機制,全部的寫操做都必須對應到Master,讀操做能夠在Master和Slave機器上進行,Slave與Master的結構徹底同樣,一個Master能夠有多個Slave,甚至Slave下還能夠掛Slave,經過此方式能夠有效的提升DB集羣的QPS.                                                       

全部的寫操做都是先在Master上操做,而後同步更新到Slave上,因此從Master同步到Slave機器有必定的延遲,當系統很繁忙的時候,延遲問題會更加嚴重,Slave機器數量的增長也會使這個問題更加嚴重。 

此外,能夠看出Master是集羣的瓶頸,當寫操做過多,會嚴重影響到Master的穩定性,若是Master掛掉,整個集羣都將不能正常工做。 

因此,1. 當讀壓力很大的時候,能夠考慮添加Slave機器的分式解決,可是當Slave機器達到必定的數量就得考慮分庫了。 2. 當寫壓力很大的時候,就必須得進行分庫操做。 

--------------------------------------------- 

MySQL使用爲何要分庫分表 
能夠用說用到MySQL的地方,只要數據量一大, 立刻就會遇到一個問題,要分庫分表. 
這裏引用一個問題爲何要分庫分表呢?MySQL處理不了大的表嗎? 
實際上是能夠處理的大表的.我所經歷的項目中單表物理上文件大小在80G多,單表記錄數在5億以上,並且這個表 
屬於一個很是核用的表:朋友關係表. 

但這種方式能夠說不是一個最佳方式. 由於面臨文件系統如Ext3文件系統對大於大文件處理上也有許多問題. 
這個層面能夠用xfs文件系統進行替換.但MySQL單表太大後有一個問題是很差解決: 表結構調整相關的操做基 
本不在可能.因此大項在使用中都會面監着分庫分表的應用. 

從Innodb自己來說數據文件的Btree上只有兩個鎖, 葉子節點鎖和子節點鎖,能夠想而知道,當發生頁拆分或是添加 
新葉時都會形成表裏不能寫入數據. 
因此分庫分表還就是一個比較好的選擇了. 

那麼分庫分表多少合適呢? 
經測試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點buffer,那麼單表全是數據字型的保持在 
800萬條記錄如下, 有字符型的單表保持在500萬如下. 

若是按 100庫100表來規劃,如用戶業務: 
500萬*100*100 = 50000000萬 = 5000億記錄. 

內心有一個數了,按業務作規劃仍是比較容易的.設計

轉自:http://wentao365.iteye.com/blog/1740874blog

相關文章
相關標籤/搜索