Mysql分庫分表

參考網址：

https://www.cnblogs.com/sunny3096/p/8595058.html

https://blog.csdn.net/rorntuck7/article/details/50668060

 

1、Mysql分庫分表方案

1.爲何要分表：

當一張表的數據達到幾千萬時，你查詢一次所花的時間會變多，若是有聯合查詢的話，我想有可能會死在那兒了。分表的目的就在於此，減少數據庫的負擔，縮短查詢時間。

mysql中有一種機制是表鎖定和行鎖定，是爲了保證數據的完整性。表鎖定表示大家都不能對這張表進行操做，必須等我對錶操做完才行。行鎖定也同樣，別的sql必須等我對這條數據操做完了，才能對這條數據進行操做。

2. mysql proxy：amoeba

作mysql集羣,利用amoeba。

從上層的java程序來說，不須要知道主服務器和從服務器的來源，即主從數據庫服務器對於上層來說是透明的。能夠經過amoeba來配置。

3.大數據量而且訪問頻繁的表，將其分爲若干個表

好比對於某網站平臺的數據庫表-公司表，數據量很大，這種能預估出來的大數據量表，咱們就事先分出個N個表，這個N是多少，根據實際狀況而定。

     某網站如今的數據量至可能是5000萬條，能夠設計每張表容納的數據量是500萬條，也就是拆分紅10張表，

那麼如何判斷某張表的數據是否容量已滿呢？能夠在程序段對於要新增數據的表，在插入前先作統計表記錄數量的操做，當<500萬條數據，就直接插入，當已經到達閥值，能夠在程序段新建立數據庫表（或者已經事先建立好），再執行插入操做。

4. 利用merge存儲引擎來實現分表

若是要把已有的大數據量表分開比較痛苦，最痛苦的事就是改代碼，由於程序裏面的sql語句已經寫好了。用merge存儲引擎來實現分表, 這種方法比較適合.

舉例子：

 

---

2、數據庫架構

一、簡單的MySQL主從複製:

MySQL的主從複製解決了數據庫的讀寫分離，並很好的提高了讀的性能，其圖以下：

 

其主從複製的過程以下圖所示：

 

可是，主從複製也帶來其餘一系列性能瓶頸問題：

1. 寫入沒法擴展
2. 寫入沒法緩存
3. 複製延時
4. 鎖表率上升
5. 表變大，緩存率降低

那問題產生總得解決的，這就產生下面的優化方案，一塊兒來看看。

二、MySQL垂直分區

   若是把業務切割得足夠獨立，那把不一樣業務的數據放到不一樣的數據庫服務器將是一個不錯的方案，並且萬一其中一個業務崩潰了也不會影響其餘業務的正常進行，而且也起到了負載分流的做用，大大提高了數據庫的吞吐能力。通過垂直分區後的數據庫架構圖以下：

 

然而，儘管業務之間已經足夠獨立了，可是有些業務之間或多或少總會有點聯繫，如用戶，基本上都會和每一個業務相關聯，何況這種分區方式，也不能解決單張表數據量暴漲的問題，所以爲什麼不試試水平分割呢？

三、MySQL水平分片（Sharding）

這是一個很是好的思路，將用戶按必定規則（按id哈希）分組，並把該組用戶的數據存儲到一個數據庫分片中，即一個sharding，這樣隨着用戶數量的增長，只要簡單地配置一臺服務器便可，原理圖以下：

 

如何來肯定某個用戶所在的shard呢，能夠建一張用戶和shard對應的數據表，每次請求先從這張表找用戶的shard id，再從對應shard中查詢相關數據，以下圖所示：

 

①單庫單表 

單庫單表是最多見的數據庫設計，例如，有一張用戶(user)表放在數據庫db中，全部的用戶均可以在db庫中的user表中查到。 

②單庫多表 

隨着用戶數量的增長，user表的數據量會愈來愈大，當數據量達到必定程度的時候對user表的查詢會漸漸的變慢，從而影響整個DB的性能。若是使用mysql, 還有一個更嚴重的問題是，當須要添加一列的時候，mysql會鎖表，期間全部的讀寫操做只能等待。 

能夠經過某種方式將user進行水平的切分，產生兩個表結構徹底同樣的user_0000,user_0001等表，user_0000 + user_0001 + …的數據恰好是一份完整的數據。 

③多庫多表

隨着數據量增長也許單臺DB的存儲空間不夠，隨着查詢量的增長單臺數據庫服務器已經沒辦法支撐。這個時候能夠再對數據庫進行水平區分。 

---

 

4、分庫分表規則 

設計表的時候須要肯定此表按照什麼樣的規則進行分庫分表。例如，當有新用戶時，程序得肯定將此用戶信息添加到哪一個表中；同理，當登陸的時候咱們得經過用戶的帳號找到數據庫中對應的記錄，全部的這些都須要按照某一規則進行。 
路由 

經過分庫分表規則查找到對應的表和庫的過程。如分庫分表的規則是user_id mod 4的方式，當用戶新註冊了一個帳號，帳號id的123,咱們能夠經過id mod 4的方式肯定此帳號應該保存到User_0003表中。當用戶123登陸的時候，咱們經過123 mod 4後肯定記錄在User_0003中。 
分庫分表產生的問題，及注意事項 

1.   分庫分表維度的問題 

假如用戶購買了商品,須要將交易記錄保存取來，若是按照用戶的緯度分表，則每一個用戶的交易記錄都保存在同一表中，因此很快很方便的查找到某用戶的 購買狀況，可是某商品被購買的狀況則頗有可能分佈在多張表中，查找起來比較麻煩。反之，按照商品維度分表，能夠很方便的查找到此商品的購買狀況，但要查找 到買人的交易記錄比較麻煩。 

因此常見的解決方式有： 

• 經過掃表的方式解決，此方法基本不可能，效率過低了。
• 記錄兩份數據，一份按照用戶緯度分表，一份按照商品維度分表。
• 經過搜索引擎解決，但若是實時性要求很高，又得關係到實時搜索。 

2.   聯合查詢的問題 

聯合查詢基本不可能，由於關聯的表有可能不在同一數據庫中。 

3.   避免跨庫事務

避免在一個事務中修改db0中的表的時候同時修改db1中的表，一個是操做起來更復雜，效率也會有必定影響。 

4.   儘可能把同一組數據放到同一DB服務器上

例如將賣家a的商品和交易信息都放到db0中，當db1掛了的時候，賣家a相關的東西能夠正常使用。也就是說避免數據庫中的數據依賴另外一數據庫中的數據。 

5.一主多備

在實際的應用中，絕大部分狀況都是讀遠大於寫。Mysql提供了讀寫分離的機制，全部的寫操做都必須對應到Master，讀操做能夠在 Master和Slave機器上進行，Slave與Master的結構徹底同樣，一個Master能夠有多個Slave,甚至Slave下還能夠掛 Slave,經過此方式能夠有效的提升DB集羣的 QPS.                                                       

全部的寫操做都是先在Master上操做，而後同步更新到Slave上，因此從Master同步到Slave機器有必定的延遲，當系統很繁忙的時候，延遲問題會更加嚴重，Slave機器數量的增長也會使這個問題更加嚴重。 
此外，能夠看出Master是集羣的瓶頸，當寫操做過多，會嚴重影響到Master的穩定性，若是Master掛掉，整個集羣都將不能正常工做。 
因此

• 當讀壓力很大的時候，能夠考慮添加Slave機器的分式解決，可是當Slave機器達到必定的數量就得考慮分庫了。
• 當寫壓力很大的時候，就必須得進行分庫操做。 

 

---

5、MySQL使用爲何要分庫分表

能夠用說用到MySQL的地方,只要數據量一大, 立刻就會遇到一個問題,要分庫分表. 這裏引用一個問題爲何要分庫分表呢?MySQL處理不了大的表嗎? 實際上是能夠處理的大表的.我所經歷的項目中單表物理上文件大小在80G多,單表記錄數在5億以上,並且這個表 屬於一個很是核用的表:朋友關係表. 

但這種方式能夠說不是一個最佳方式. 由於面臨文件系統如Ext3文件系統對大於大文件處理上也有許多問題. 這個層面能夠用xfs文件系統進行替換.但MySQL單表太大後有一個問題是很差解決: 表結構調整相關的操做基 
本不在可能.因此大項在使用中都會面監着分庫分表的應用. 

從Innodb自己來說數據文件的Btree上只有兩個鎖, 葉子節點鎖和子節點鎖,能夠想而知道,當發生頁拆分或是添加新葉時都會形成表裏不能寫入數據.因此分庫分表還就是一個比較好的選擇了. 

那麼分庫分表多少合適呢? 
經測試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點buffer,那麼單表全是數據字型的保持在800萬條記錄如下, 有字符型的單表保持在500萬如下. 

若是按 100庫100表來規劃,如用戶業務: 500萬*100*100 = 50000000萬 = 5000億記錄. 

內心有一個數了,按業務作規劃仍是比較容易的.

分佈式數據庫架構--排序、分頁、分組、實現

---

 

6、最近研究分佈式數據庫架構，發現排序、分組及分頁讓着實人有點頭疼。現把問題及解決思路整理以下。

1.多分片（水平切分）返回結果合併（排序）

①Select + None Aggregate Function的有序記錄合併排序 

解決思路：對各分片返回的有序記錄，進行排序去重合並。此處主要是編寫排序去重合並算法。

②Select + None Aggregate Function的無序記錄合併

解決思路：對各分片返回的無序記錄，進行去重合並。

• 優勢：實現比較簡單。
•  缺點：數據量越大，字段越多，去重處理就會越耗時。

③Select + Aggregate Function的記錄合併（排序）Oracle經常使用聚合函數：Count、Max、Min、Avg、Sum。

• AF：Max、Min
  • 思路：經過算法對各分片返回結果再求max、min值。
• AF：Avg、Sum、Count
  • 思路：分片間無重複記錄或字段時，經過算法對各分片返回結果再求avg、sum、count值。分片間有重複記錄或字段時，先對各分片記錄去重合並，再經過算法求avg、sum、count值。

好比：

select count(*) from user

select count(deptno) from user;

select count(distinct deptno) from user;

2.多分片（水平切分）返回結果分頁

解決思路：合併各分片返回結果，邏輯分頁。

        優勢：  實現簡單。

        缺點：  數據量越大，緩存壓力就越大。

                     分片數據量越大，查詢也會越慢。

3.多分片（水平切分）查詢有分組語法的合併

①Group By Having + None Aggregate Function時

• Select + None Aggregate Function
  • 好比：select job user group by job;
  • 思路：直接去重（排序）合併。
• Select + Aggregate Function
  • 好比：select max(sal),job user group by job;
  • 思路：同Select + Aggregate Function的記錄合併（排序）。

②Group By Having + Aggregate Function時

解決思路：去掉having AF條件查詢各分片，而後把數據放到一張表裏。再用group by having 聚合函數查詢。

4.分佈式數據庫架構--排序分組分頁參考解決方案

• 解決方案1：Hadoop + Hive。
  • 思路：使用Hadoop HDFS來存儲數據，經過Hdoop MapReduce完成數據計算，經過Hive HQL語言使用部分與RDBBS同樣的表格查詢特性和分佈式存儲計算特性。
  • 優勢：

1. 1. 能夠解決問題
   2. 具備併發處理能力
   3. 能夠離線處理

• • 缺點： 

1. 1. 實時性不能保證
   2. 網絡延遲會增長
   3. 異常捕獲難度增長
   4. Web應用起來比較複雜

• 解決方案2：總庫集中查詢。
  • 優勢：

1. 1. 能夠解決問題
   2. 實現簡單

• • 缺點：

1. 1. 總庫數據不能太大
   2. 併發壓力大

5.小結

對 於分佈式數據庫架構來講，排序、分頁、分組一直就是一個比較複雜的問題。避免此問題須要好好地設計分庫、分表策略。同時根據特定的場景來解決問題。也能夠 充分利用海量數據存儲（Hadoop-HDFS|Hive|HBse）、搜索引擎（Lucene|Solr）及分佈式計算（MapReduce）等技術來 解決問題。
別外，也能夠用NoSQL技術替代關係性數據庫來解決問題，好比MogonDB\redis。

即便爬到最高的山上，一次也只能腳踏實地地邁一步。