Mysql內建的複製功能是構建大型,高性能應用程序的基礎。將Mysql的數據分佈到多個系統上去,這種分佈的機制,是經過將Mysql的某一臺主機的數據複製到其它主機(slaves)上,並從新執行一遍來實現的。複製過程當中一個服務器充當主服務器,而一個或多個其它服務器充當從服務器。主服務器將更新寫入二進制日誌文件,並維護文件的一個索引以跟蹤日誌循環。這些日誌能夠記錄發送到從服務器的更新。當一個從服務器鏈接主服務器時,它通知主服務器從服務器在日誌中讀取的最後一次成功更新的位置。從服務器接收從那時起發生的任何更新,而後封鎖並等待主服務器通知新的更新。mysql
請注意當你進行復制時,全部對複製中的表的更新必須在主服務器上進行。不然,你必需要當心,以免用戶對主服務器上的表進行的更新與對從服務器上的表所進行的更新之間的衝突。算法
mysql支持的複製類型:sql
複製解決的問題shell
MySQL複製技術有如下一些特色:數據庫
複製如何工做緩存
總體上來講,複製有3個步驟:服務器
下圖描述了複製的過程:網絡
有兩臺MySQL數據庫服務器Master和slave,Master爲主服務器,slave爲從服務器,初始狀態時,Master和slave中的數據信息相同,當Master中的數據發生變化時,slave也跟着發生相應的變化,使得master和slave的數據信息同步,達到備份的目的。session
要點:負責在主、從服務器傳輸各類修改動做的媒介是主服務器的二進制變動日誌,這個日誌記載着須要傳輸給從服務器的各類修改動做。所以,主服務器必須激活二進制日誌功能。從服務器必須具有足以讓它鏈接主服務器並請求主服務器把二進制變動日誌傳輸給它的權限。架構
環境:
建立複製賬號
一、在Master的數據庫中創建一個備份賬戶:每一個slave使用標準的MySQL用戶名和密碼鏈接master。進行復制操做的用戶會授予REPLICATION SLAVE權限。用戶名的密碼都會存儲在文本文件master.info中
命令以下:
mysql > GRANT REPLICATION SLAVE,RELOAD,SUPER ON *.* TO backup@’10.100.0.200’ IDENTIFIED BY ‘1234’;
創建一個賬戶backup,而且只能容許從10.100.0.200這個地址上來登錄,密碼是1234。
若是由於mysql版本新舊密碼算法不一樣,能夠設置:
set password for 'backup'@'10.100.0.200'=old_password('1234')
拷貝數據:(假如是你徹底新安裝mysql主從服務器,這個一步就不須要。由於新安裝的master和slave有相同的數據)
關停Master服務器,將Master中的數據拷貝到B服務器中,使得Master和slave中的數據同步,而且確保在所有設置操做結束前,禁止在Master和slave服務器中進行寫操做,使得兩數據庫中的數據必定要相同!
配置master
接下來對master進行配置,包括打開二進制日誌,指定惟一的servr ID。例如,在配置文件加入以下值:
server-id=1 log-bin=mysql-bin server-id:爲主服務器A的ID值 log-bin:二進制變動日值
重啓master,運行SHOW MASTER STATUS,輸出以下:
配置slave
Slave的配置與master相似,你一樣須要重啓slave的MySQL。以下:
log_bin = mysql-bin server_id = 2 relay_log = mysql-relay-bin log_slave_updates = 1 read_only = 1 #server_id:是必須的,並且惟一。
log_bin:slave沒有必要開啓二進制日誌bin_log,可是在一些狀況下,必須設置,例如,若是slave爲其它slave的master,必須設置bin_log。在這裏,咱們開啓了二進制日誌,並且顯示的命名(默認名稱爲hostname,可是,若是hostname改變則會出現問題)。
relay_log:配置中繼日誌,log_slave_updates表示slave將複製事件寫進本身的二進制日誌(後面會看到它的用處)。有些人開啓了slave的二進制日誌,卻沒有設置log_slave_updates,而後查看slave的數據是否改變,這是一種錯誤的配置。
read_only:儘可能使用read_only,它防止改變數據(除了特殊的線程)。可是,read_only並是很實用,特別是那些須要在slave上建立表的應用。
啓動slave
接下來就是讓slave鏈接master,並開始重作master二進制日誌中的事件。你不該該用配置文件進行該操做,而應該使用CHANGE MASTER TO語句,該語句能夠徹底取代對配置文件的修改,並且它能夠爲slave指定不一樣的master,而不須要中止服務器。以下:
mysql> CHANGE MASTER TO MASTER_HOST='server1', -> MASTER_USER='repl', -> MASTER_PASSWORD='p4ssword', -> MASTER_LOG_FILE='mysql-bin.000001', -> MASTER_LOG_POS=0;
MASTER_LOG_POS的值爲0,由於它是日誌的開始位置。
你能夠用SHOW SLAVE STATUS語句查看slave的設置是否正確:
mysql> SHOW SLAVE STATUSG *************************** 1. row *************************** Slave_IO_State: Master_Host: server1 Master_User: repl Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 4 Relay_Log_File: mysql-relay-bin.000001 Relay_Log_Pos: 4 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: No Slave_SQL_Running: No ...omitted... Seconds_Behind_Master: NULL
Slave_IO_State, Slave_IO_Running, 和Slave_SQL_Running是No,代表slave尚未開始複製過程。日誌的位置爲4而不是0,這是由於0只是日誌文件的開始位置,並非日誌位置。實際上,MySQL知道的第一個事件的位置是4。
爲了開始複製,你能夠運行:
mysql> START SLAVE;
運行SHOW SLAVE STATUS查看輸出結果:
mysql> SHOW SLAVE STATUSG *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: server1 Master_User: repl Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 164 Relay_Log_File: mysql-relay-bin.000001 Relay_Log_Pos: 164 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: Yes Slave_SQL_Running: Yes ...omitted... Seconds_Behind_Master: 0
在這裏主要是看:
slave的I/O和SQL線程都已經開始運行,並且Seconds_Behind_Master再也不是NULL。日誌的位置增長了,意味着一些事件被獲取並執行了。若是你在master上進行修改,你能夠在slave上看到各類日誌文件的位置的變化,一樣,你也能夠看到數據庫中數據的變化。
你可查看master和slave上線程的狀態。在master上,你能夠看到slave的I/O線程建立的鏈接:
在master上輸入show processlistG;
mysql> show processlist G *************************** 1. row *************************** Id: 1 User: root Host: localhost:2096 db: test Command: Query Time: 0 State: NULL Info: show processlist *************************** 2. row *************************** Id: 2 User: repl Host: localhost:2144 db: NULL Command: Binlog Dump Time: 1838 State: Has sent all binlog to slave; waiting for binlog to be updated Info: NULL 2 rows in set (0.00 sec)
行2爲處理slave的I/O線程的鏈接。
在slave服務器上運行該語句:
mysql> show processlist G *************************** 1. row *************************** Id: 1 User: system user Host: db: NULL Command: Connect Time: 2291 State: Waiting for master to send event Info: NULL *************************** 2. row *************************** Id: 2 User: system user Host: db: NULL Command: Connect Time: 1852 State: Has read all relay log; waiting for the slave I/O thread to update it Info: NULL *************************** 3. row *************************** Id: 5 User: root Host: localhost:2152 db: test Command: Query Time: 0 State: NULL Info: show processlist 3 rows in set (0.00 sec)
行1爲I/O線程狀態,行2爲SQL線程狀態。
添加新slave服務器
假如master已經運行好久了,想對新安裝的slave進行數據同步,甚至它沒有master的數據。此時,有幾種方法可使slave從另外一個服務開始,例如,從master拷貝數據,從另外一個slave克隆,從最近的備份開始一個slave。Slave與master同步時,須要三樣東西:
能夠經過如下幾中方法來克隆一個slave:
mysql> FLUSH TABLES WITH READ LOCK;
shell> mysqldump --all-databases --lock-all-tables >dbdump.db
mysql> UNLOCK TABLES;
已經討論了關於複製的一些基本東西,下面深刻討論一下複製。
基於語句的複製(Statement-Based Replication)
MySQL 5.0及以前的版本僅支持基於語句的複製(也叫作邏輯複製,logical replication),這在數據庫並不常見。master記錄下改變數據的查詢,而後,slave從中繼日誌中讀取事件,並執行它,這些SQL語句與master執行的語句同樣。
這種方式的優勢就是實現簡單。此外,基於語句的複製的二進制日誌能夠很好的進行壓縮,並且日誌的數據量也較小,佔用帶寬少——例如,一個更新GB的數據的查詢僅須要幾十個字節的二進制日誌。而mysqlbinlog對於基於語句的日誌處理十分方便。
可是,基於語句的複製並非像它看起來那麼簡單,由於一些查詢語句依賴於master的特定條件,例如,master與slave可能有不一樣的時間。因此,MySQL的二進制日誌的格式不只僅是查詢語句,還包括一些元數據信息,例如,當前的時間戳。即便如此,仍是有一些語句,好比,CURRENT USER函數,不能正確的進行復制。此外,存儲過程和觸發器也是一個問題。
另一個問題就是基於語句的複製必須是串行化的。這要求大量特殊的代碼,配置,例如InnoDB的next-key鎖等。並非全部的存儲引擎都支持基於語句的複製。
基於記錄的複製(Row-Based Replication)
MySQL增長基於記錄的複製,在二進制日誌中記錄下實際數據的改變,這與其它一些DBMS的實現方式相似。這種方式有優勢,也有缺點。優勢就是能夠對任何語句都能正確工做,一些語句的效率更高。主要的缺點就是二進制日誌可能會很大,並且不直觀,因此,你不能使用mysqlbinlog來查看二進制日誌。
對於一些語句,基於記錄的複製可以更有效的工做,如:
mysql> INSERT INTO summary_table(col1, col2, sum_col3) -> SELECT col1, col2, sum(col3) -> FROM enormous_table -> GROUP BY col1, col2;
假設,只有三種惟一的col1和col2的組合,可是,該查詢會掃描原表的許多行,卻僅返回三條記錄。此時,基於記錄的複製效率更高。
另外一方面,下面的語句,基於語句的複製更有效:
mysql> UPDATE enormous_table SET col1 = 0;
此時使用基於記錄的複製代價會很是高。因爲兩種方式不能對全部狀況都能很好的處理,因此,MySQL 5.1支持在基於語句的複製和基於記錄的複製以前動態交換。你能夠經過設置session變量binlog_format來進行控制。
複製相關的文件
除了二進制日誌和中繼日誌文件外,還有其它一些與複製相關的文件。以下:
服務器一旦開啓二進制日誌,會產生一個與二日誌文件同名,可是以.index結尾的文件。它用於跟蹤磁盤上存在哪些二進制日誌文件。MySQL用它來定位二進制日誌文件。它的內容以下(個人機器上):
該文件的功能與mysql-bin.index相似,可是它是針對中繼日誌,而不是二進制日誌。內容以下:
.mysql-02-relay-bin.000017 .mysql-02-relay-bin.000018
保存master的相關信息。不要刪除它,不然,slave重啓後不能鏈接master。內容以下(個人機器上):I/O線程更新master.info文件,內容以下(個人機器上):
.mysql-02-relay-bin.000019 254 mysql-01-bin.000010 286 0 52813
包含slave中當前二進制日誌和中繼日誌的信息。
發送複製事件到其它slave
當設置log_slave_updates時,你可讓slave扮演其它slave的master。此時,slave把SQL線程執行的事件寫進行本身的二進制日誌(binary log),而後,它的slave能夠獲取這些事件並執行它。以下:
複製過濾(Replication Filters)
複製過濾可讓你只複製服務器中的一部分數據,有兩種複製過濾:在master上過濾二進制日誌中的事件;在slave上過濾中繼日誌中的事件。以下:
複製的體系結構有如下一些基本原則:
MySQL不支持多主服務器複製(Multimaster Replication)——即一個slave能夠有多個master。可是,經過一些簡單的組合,咱們卻能夠創建靈活而強大的複製體系結構。
單一master和多slave
由一個master和一個slave組成複製系統是最簡單的狀況。Slave之間並不相互通訊,只能與master進行通訊。
在實際應用場景中,MySQL複製90%以上都是一個Master複製到一個或者多個Slave的架構模式,主要用於讀壓力比較大的應用的數據庫端廉價擴展解決方案。由於只要Master和Slave的壓力不是太大(尤爲是Slave端壓力)的話,異步複製的延時通常都不多不多。尤爲是自從Slave端的複製方式改爲兩個線程處理以後,更是減少了Slave端的延時問題。而帶來的效益是,對於數據實時性要求不是特別Critical的應用,只須要經過廉價的pcserver來擴展Slave的數量,將讀壓力分散到多臺Slave的機器上面,便可經過分散單臺數據庫服務器的讀壓力來解決數據庫端的讀性能瓶頸,畢竟在大多數數據庫應用系統中的讀壓力仍是要比寫壓力大不少。這在很大程度上解決了目前不少中小型網站的數據庫壓力瓶頸問題,甚至有些大型網站也在使用相似方案解決數據庫瓶頸。
以下:若是寫操做較少,而讀操做很時,能夠採起這種結構。你能夠將讀操做分佈到其它的slave,從而減少master的壓力。可是,當slave增長到必定數量時,slave對master的負載以及網絡帶寬都會成爲一個嚴重的問題。
這種結構雖然簡單,可是,它卻很是靈活,足夠知足大多數應用需求。一些建議:
你們應該都比較清楚,從一個Master節點能夠複製出多個Slave節點,可能有人會想,那一個Slave節點是否能夠從多個Master節點上面進行復制呢?至少在目前來看,MySQL是作不到的,之後是否會支持就不清楚了。
MySQL不支持一個Slave節點從多個Master節點來進行復制的架構,主要是爲了不衝突的問題,防止多個數據源之間的數據出現衝突,而形成最後數據的不一致性。不過據說已經有人開發了相關的patch,讓MySQL支持一個Slave節點從多個Master結點做爲數據源來進行復制,這也正是MySQL開源的性質所帶來的好處。
主動模式的Master-Master(Master-Master in Active-Active Mode)
Master-Master複製的兩臺服務器,既是master,又是另外一臺服務器的slave。這樣,任何一方所作的變動,都會經過複製應用到另一方的數據庫中。
可能有些讀者朋友會有一個擔憂,這樣搭建複製環境以後,難道不會形成兩臺MySQL之間的循環複製麼?實際上MySQL本身早就想到了這一點,因此在MySQL的BinaryLog中記錄了當前MySQL的server-id,並且這個參數也是咱們搭建MySQLReplication的時候必須明確指定,並且Master和Slave的server-id參數值比須要不一致才能使MySQLReplication搭建成功。
一旦有了server-id的值以後,MySQL就很容易判斷某個變動是從哪個MySQLServer最初產生的,因此就很容易避免出現循環複製的狀況。並且,若是咱們不打開記錄Slave的BinaryLog的選項(--log-slave-update)的時候,MySQL根本就不會記錄複製過程當中的變動到BinaryLog中,就更不用擔憂可能會出現循環複製的情形了。如圖:主動的Master-Master複製有一些特殊的用處。例如,地理上分佈的兩個部分都須要本身的可寫的數據副本。這種結構最大的問題就是更新衝突。假設一個表只有一行(一列)的數據,其值爲1,若是兩個服務器分別同時執行以下語句:
#在第一個服務器上執行: mysql> UPDATE tbl SET col=col + 1; #在第二個服務器上執行: mysql> UPDATE tbl SET col=col * 2;
那麼結果是多少呢?一臺服務器是4,另外一個服務器是3,可是,這並不會產生錯誤。
實際上,MySQL並不支持其它一些DBMS支持的多主服務器複製(Multimaster Replication),這是MySQL的複製功能很大的一個限制(多主服務器的難點在於解決更新衝突),可是,若是你實在有這種需求,你能夠採用MySQL Cluster,以及將Cluster和Replication結合起來,能夠創建強大的高性能的數據庫平臺。可是,能夠經過其它一些方式來模擬這種多主服務器的複製。
主動-被動模式的Master-Master(Master-Master in Active-Passive Mode)這是master-master結構變化而來的,它避免了M-M的缺點,實際上,這是一種具備容錯和高可用性的系統。它的不一樣點在於其中一個服務只能進行只讀操做。如圖:
級聯複製架構Master –Slaves - Slaves
在有些應用場景中,可能讀寫壓力差異比較大,讀壓力特別的大,一個Master可能須要上10臺甚至更多的Slave纔可以支撐注讀的壓力。這時候,Master就會比較吃力了,由於僅僅連上來的SlaveIO線程就比較多了,這樣寫的壓力稍微大一點的時候,Master端由於複製就會消耗較多的資源,很容易形成複製的延時。
遇到這種狀況如何解決呢?這時候咱們就能夠利用MySQL能夠在Slave端記錄複製所產生變動的BinaryLog信息的功能,也就是打開—log-slave-update選項。而後,經過二級(或者是更多級別)複製來減小Master端由於複製所帶來的壓力。也就是說,咱們首先經過少數幾臺MySQL從Master來進行復制,這幾臺機器咱們姑且稱之爲第一級Slave集羣,而後其餘的Slave再從第一級Slave集羣來進行復制。從第一級Slave進行復制的Slave,我稱之爲第二級Slave集羣。若是有須要,咱們能夠繼續往下增長更多層次的複製。這樣,咱們很容易就控制了每一臺MySQL上面所附屬Slave的數量。這種架構我稱之爲Master-Slaves-Slaves架構
這種多層級聯複製的架構,很容易就解決了Master端由於附屬Slave太多而成爲瓶頸的風險。下圖展現了多層級聯複製的Replication架構。固然,若是條件容許,我更傾向於建議你們經過拆分紅多個Replication集羣來解決
上述瓶頸問題。畢竟Slave並無減小寫的量,全部Slave實際上仍然仍是應用了全部的數據變動操做,沒有減小任何寫IO。相反,Slave越多,整個集羣的寫IO總量也就會越多,咱們沒有很是明顯的感受,僅僅只是由於分散到了多臺機器上面,因此不是很容易表現出來。
此外,增長複製的級聯層次,同一個變動傳到最底層的Slave所須要通過的MySQL也會更多,一樣可能形成延時較長的風險。
而若是咱們經過分拆集羣的方式來解決的話,可能就會要好不少了,固然,分拆集羣也須要更復雜的技術和更復雜的應用系統架構。
帶從服務器的Master-Master結構(Master-Master with Slaves) 這種結構的優勢就是提供了冗餘。在地理上分佈的複製結構,它不存在單一節點故障問題,並且還能夠將讀密集型的請求放到slave上。級聯複製在必定程度上面確實解決了Master由於所附屬的Slave過多而成爲瓶頸的問題,可是他並不能解決人工維護和出現異常須要切換後可能存在從新搭建Replication的問題。這樣就很天然的引伸出了DualMaster與級聯複製結合的Replication架構,我稱之爲Master-Master-Slaves架構
和Master-Slaves-Slaves架構相比,區別僅僅只是將第一級Slave集羣換成了一臺單獨的Master,做爲備用Master,而後再從這個備用的Master進行復制到一個Slave集羣。
這種DualMaster與級聯複製結合的架構,最大的好處就是既能夠避免主Master的寫入操做不會受到Slave集羣的複製所帶來的影響,同時主Master須要切換的時候也基本上不會出現重搭Replication的狀況。可是,這個架構也有一個弊端,那就是備用的Master有可能成爲瓶頸,由於若是後面的Slave集羣比較大的話,備用Master可能會由於過多的SlaveIO線程請求而成爲瓶頸。
固然,該備用Master不提供任何的讀服務的時候,瓶頸出現的可能性並非特別高,若是出現瓶頸,也能夠在備用Master後面再次進行級聯複製,架設多層Slave集羣。固然,級聯複製的級別越多,Slave集羣可能出現的數據延時也會更爲明顯,因此考慮使用多層級聯複製以前,也須要評估數據延時對應用系統的影響。
錯誤一:change master致使的:
Last_IO_Error: error connecting to master 'repl1@IP:3306' - retry-time: 60 retries
錯誤二:在沒有解鎖的狀況下中止slave進程:
mysql> stop slave; ERROR 1192 (HY000): Can't execute the given command because you have active locked tables or an active transaction
錯誤三:在沒有中止slave進程的狀況下change master
mysql> change master to master_host=‘IP', master_user='USER', master_password='PASSWD', master_log_file='mysql-bin.000001',master_log_pos=106; ERROR 1198 (HY000): This operation cannot be performed with a running slave; run STOP SLAVE first
錯誤四:A B的server-id相同:
Last_IO_Error: Fatal error: The slave I/O thread stops because master and slave have equal MySQL server ids; these ids must be different for replication to work (or the --replicate-same-server-id option must be used on slave but this does not always make sense; please check the manual before using it). #查看server-id mysql> show variables like 'server_id'; #手動修改server-id mysql> set global server_id=2; #此處的數值和my.cnf裏設置的同樣就行 mysql> slave start;
錯誤五:change master以後,查看slave的狀態,發現slave_IO_running 仍爲NO
須要注意的是,上述幾個錯誤作完操做以後要重啓mysql進程,slave_IO_running 變爲Yes
錯誤六:MySQL主從同步異常Client requested master to start replication from position > file size
字面理解:從庫的讀取binlog的位置大於主庫當前binglog的值
這通常是主庫重啓致使的問題,主庫從參數sync_binlog默認爲1000,即主庫的數據是先緩存到1000條後統一fsync到磁盤的binlog文件中。當主庫重啓的時候,從庫直接讀取主庫接着以前的位點從新拉binlog,可是主庫因爲沒有fsync最後的binlog,因此會返回1236的錯誤。
正常建議配置sync_binlog=1 也就是每一個事務都當即寫入到binlog文件中。
偏移量爲4063315
mysqlbinlog mysql-bin.001574 > ./mysql-bin.001574.bak tail -10 ./mysql-bin.001574.bak
mysql-bin.001574文件最後幾行 發現最後偏移量是4059237,從庫偏移量的4063315遠大主庫的偏移量4059237,也就是參數sync_binlog=1000致使的。
mysql> stop slave; mysql> change master to master_log_file='mysql-bin.001574' ,master_log_pos=4059237; mysql> start slave;
錯誤8:數據同步異常狀況
Last_Error: Could not execute Delete_rows event on table market_edu.tl_player_task; Can't find record in 'tl_player_task', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysql-bin.002094, end_log_pos 286434186
解決方法:因爲master要刪除一條記錄,而slave上找不到故報錯,這種狀況主上都將其刪除了,那麼從機能夠直接跳過。可用命令:
stop slave; set global sql_slave_skip_counter=1; start slave;
Last_SQL_Error: Could not execute Write_rows event on table hcy.t1; Duplicate entry '2' for key 'PRIMARY', Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event's master log mysql-bin.000006, end_log_pos 924
解決方法:在slave刪除重複的主鍵.
Last_SQL_Error: Could not execute Update_rows event on table hcy.t1; Can't find record in 't1', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysql-bin.000010, end_log_pos 263
解決方法:把丟失的數據在slave上填補,而後跳過報錯便可。
insert into t1 values (2,'BTV'); stop slave ;set global sql_slave_skip_counter=1;start slave;
來源:https://guisu.blog.csdn.net/a...