02 | 日誌系統：一條SQL更新語句是如何執行的？

前面咱們系統瞭解了一個查詢語句的執行流程，並介紹了執行過程當中涉及的處理模塊。相信你還記得，一條查詢語句的執行過程通常是通過鏈接器、分析器、優化器、執行器等功能模塊，最後到達存儲引擎。

那麼，一條更新語句的執行流程又是怎樣的呢？

以前你可能常常聽DBA同事說，MySQL能夠恢復到半個月內任意一秒的狀態，驚歎的同時，你是否是心中也會難免會好奇，這是怎樣作到的呢？

咱們仍是從一個表的一條更新語句提及，下面是這個表的建立語句，這個表有一個主鍵ID和一個整型字段c：

mysql> create table T(ID int primary key, c int);

若是要將ID=2這一行的值加1，SQL語句就會這麼寫：

mysql> update T set c=c+1 where ID=2;

前面我有跟你介紹過SQL語句基本的執行鏈路，這裏我再把那張圖拿過來，你也能夠先簡單看看這個圖回顧下。首先，能夠肯定的說，查詢語句的那一套流程，更新語句也是一樣會走一遍。

MySQL的邏輯架構圖

你執行語句前要先鏈接數據庫，這是鏈接器的工做。

前面咱們說過，在一個表上有更新的時候，跟這個表有關的查詢緩存會失效，因此這條語句就會把表T上全部緩存結果都清空。這也就是咱們通常不建議使用查詢緩存的緣由。

接下來，分析器會經過詞法和語法解析知道這是一條更新語句。優化器決定要使用ID這個索引。而後，執行器負責具體執行，找到這一行，而後更新。

與查詢流程不同的是，更新流程還涉及兩個重要的日誌模塊，它們正是咱們今天要討論的主角：redo log（重作日誌）和 binlog（歸檔日誌）。若是接觸MySQL，那這兩個詞確定是繞不過的，我後面的內容裏也會不斷地和你強調。不過話說回來，redo log和binlog在設計上有不少有意思的地方，這些設計思路也能夠用到你本身的程序裏。

重要的日誌模塊：redo log

不知道你還記不記得《孔乙己》這篇文章，酒店掌櫃有一個粉板，專門用來記錄客人的賒帳記錄。若是賒帳的人很少，那麼他能夠把顧客名和帳目寫在板上。但若是賒帳的人多了，粉板總會有記不下的時候，這個時候掌櫃必定還有一個專門記錄賒帳的帳本。

若是有人要賒帳或者還帳的話，掌櫃通常有兩種作法：

• 一種作法是直接把帳本翻出來，把此次賒的帳加上去或者扣除掉；
• 另外一種作法是先在粉板上記下此次的帳，等打烊之後再把帳本翻出來覈算。

在生意紅火櫃檯很忙時，掌櫃必定會選擇後者，由於前者操做實在是太麻煩了。首先，你得找到這我的的賒帳總額那條記錄。你想一想，密密麻麻幾十頁，掌櫃要找到那個名字，可能還得帶上老花鏡慢慢找，找到以後再拿出算盤計算，最後再將結果寫回到帳本上。

這整個過程想一想都麻煩。相比之下，仍是先在粉板上記一下方便。你想一想，若是掌櫃沒有粉板的幫助，每次記帳都得翻帳本，效率是否是低得讓人難以忍受？

一樣，在MySQL裏也有這個問題，若是每一次的更新操做都須要寫進磁盤，而後磁盤也要找到對應的那條記錄，而後再更新，整個過程IO成本、查找成本都很高。爲了解決這個問題，MySQL的設計者就用了相似酒店掌櫃粉板的思路來提高更新效率。

而粉板和帳本配合的整個過程，其實就是MySQL裏常常說到的WAL技術，WAL的全稱是Write-Ahead Logging，它的關鍵點就是先寫日誌，再寫磁盤，也就是先寫粉板，等不忙的時候再寫帳本。

具體來講，當有一條記錄須要更新的時候，InnoDB引擎就會先把記錄寫到redo log（粉板）裏面，並更新內存，這個時候更新就算完成了。同時，InnoDB引擎會在適當的時候，將這個操做記錄更新到磁盤裏面，而這個更新每每是在系統比較空閒的時候作，這就像打烊之後掌櫃作的事。

若是今天賒帳的很少，掌櫃能夠等打烊後再整理。但若是某天賒帳的特別多，粉板寫滿了，又怎麼辦呢？這個時候掌櫃只好放下手中的活兒，把粉板中的一部分賒帳記錄更新到帳本中，而後把這些記錄從粉板上擦掉，爲記新帳騰出空間。

與此相似，InnoDB的redo log是固定大小的，好比能夠配置爲一組4個文件，每一個文件的大小是1GB，那麼這塊「粉板」總共就能夠記錄4GB的操做。從頭開始寫，寫到末尾就又回到開頭循環寫，以下面這個圖所示。

write pos是當前記錄的位置，一邊寫一邊後移，寫到第3號文件末尾後就回到0號文件開頭。checkpoint是當前要擦除的位置，也是日後推移而且循環的，擦除記錄前要把記錄更新到數據文件。

write pos和checkpoint之間的是「粉板」上還空着的部分，能夠用來記錄新的操做。若是write pos追上checkpoint，表示「粉板」滿了，這時候不能再執行新的更新，得停下來先擦掉一些記錄，把checkpoint推動一下。

有了redo log，InnoDB就能夠保證即便數據庫發生異常重啓，以前提交的記錄都不會丟失，這個能力稱爲crash-safe。

要理解crash-safe這個概念，能夠想一想咱們前面賒帳記錄的例子。只要賒帳記錄記在了粉板上或寫在了帳本上，以後即便掌櫃忘記了，好比忽然停業幾天，恢復生意後依然能夠經過帳本和粉板上的數據明確賒帳帳目。

重要的日誌模塊：binlog

前面咱們講過，MySQL總體來看，其實就有兩塊：一塊是Server層，它主要作的是MySQL功能層面的事情；還有一塊是引擎層，負責存儲相關的具體事宜。上面咱們聊到的粉板redo log是InnoDB引擎特有的日誌，而Server層也有本身的日誌，稱爲binlog（歸檔日誌）。

我想你確定會問，爲何會有兩份日誌呢？

由於最開始MySQL裏並無InnoDB引擎。MySQL自帶的引擎是MyISAM，可是MyISAM沒有crash-safe的能力，binlog日誌只能用於歸檔。而InnoDB是另外一個公司以插件形式引入MySQL的，既然只依靠binlog是沒有crash-safe能力的，因此InnoDB使用另一套日誌系統——也就是redo log來實現crash-safe能力。

這兩種日誌有如下三點不一樣。

1. redo log是InnoDB引擎特有的；binlog是MySQL的Server層實現的，全部引擎均可以使用。

2. redo log是物理日誌，記錄的是「在某個數據頁上作了什麼修改」；binlog是邏輯日誌，記錄的是這個語句的原始邏輯，好比「給ID=2這一行的c字段加1 」。

3. redo log是循環寫的，空間固定會用完；binlog是能夠追加寫入的。「追加寫」是指binlog文件寫到必定大小後會切換到下一個，並不會覆蓋之前的日誌。

有了對這兩個日誌的概念性理解，咱們再來看執行器和InnoDB引擎在執行這個簡單的update語句時的內部流程。

1. 執行器先找引擎取ID=2這一行。ID是主鍵，引擎直接用樹搜索找到這一行。若是ID=2這一行所在的數據頁原本就在內存中，就直接返回給執行器；不然，須要先從磁盤讀入內存，而後再返回。

2. 執行器拿到引擎給的行數據，把這個值加上1，好比原來是N，如今就是N+1，獲得新的一行數據，再調用引擎接口寫入這行新數據。

3. 引擎將這行新數據更新到內存中，同時將這個更新操做記錄到redo log裏面，此時redo log處於prepare狀態。而後告知執行器執行完成了，隨時能夠提交事務。

4. 執行器生成這個操做的binlog，並把binlog寫入磁盤。

5. 執行器調用引擎的提交事務接口，引擎把剛剛寫入的redo log改爲提交（commit）狀態，更新完成。

這裏我給出這個update語句的執行流程圖，圖中淺色框表示是在InnoDB內部執行的，深色框表示是在執行器中執行的。

update語句執行流程

你可能注意到了，最後三步看上去有點「繞」，將redo log的寫入拆成了兩個步驟：prepare和commit，這就是"兩階段提交"。

兩階段提交

爲何必須有「兩階段提交」呢？這是爲了讓兩份日誌之間的邏輯一致。要說明這個問題，咱們得從文章開頭的那個問題提及：怎樣讓數據庫恢復到半個月內任意一秒的狀態？

前面咱們說過了，binlog會記錄全部的邏輯操做，而且是採用「追加寫」的形式。若是你的DBA承諾說半個月內能夠恢復，那麼備份系統中必定會保存最近半個月的全部binlog，同時系統會按期作整庫備份。這裏的「按期」取決於系統的重要性，能夠是一天一備，也能夠是一週一備。

當須要恢復到指定的某一秒時，好比某天下午兩點發現中午十二點有一次誤刪表，須要找回數據，那你能夠這麼作：

• 首先，找到最近的一次全量備份，若是你運氣好，可能就是昨天晚上的一個備份，從這個備份恢復到臨時庫；
• 而後，從備份的時間點開始，將備份的binlog依次取出來，重放到中午誤刪表以前的那個時刻。

這樣你的臨時庫就跟誤刪以前的線上庫同樣了，而後你能夠把表數據從臨時庫取出來，按須要恢復到線上庫去。

好了，說完了數據恢復過程，咱們回來講說，爲何日誌須要「兩階段提交」。這裏不妨用反證法來進行解釋。

因爲redo log和binlog是兩個獨立的邏輯，若是不用兩階段提交，要麼就是先寫完redo log再寫binlog，或者採用反過來的順序。咱們看看這兩種方式會有什麼問題。

仍然用前面的update語句來作例子。假設當前ID=2的行，字段c的值是0，再假設執行update語句過程當中在寫完第一個日誌後，第二個日誌尚未寫完期間發生了crash，會出現什麼狀況呢？

1. 先寫redo log後寫binlog。假設在redo log寫完，binlog尚未寫完的時候，MySQL進程異常重啓。因爲咱們前面說過的，redo log寫完以後，系統即便崩潰，仍然可以把數據恢復回來，因此恢復後這一行c的值是1。
   可是因爲binlog沒寫完就crash了，這時候binlog裏面就沒有記錄這個語句。所以，以後備份日誌的時候，存起來的binlog裏面就沒有這條語句。
   而後你會發現，若是須要用這個binlog來恢復臨時庫的話，因爲這個語句的binlog丟失，這個臨時庫就會少了這一次更新，恢復出來的這一行c的值就是0，與原庫的值不一樣。

2. 先寫binlog後寫redo log。若是在binlog寫完以後crash，因爲redo log還沒寫，崩潰恢復之後這個事務無效，因此這一行c的值是0。可是binlog裏面已經記錄了「把c從0改爲1」這個日誌。因此，在以後用binlog來恢復的時候就多了一個事務出來，恢復出來的這一行c的值就是1，與原庫的值不一樣。

能夠看到，若是不使用「兩階段提交」，那麼數據庫的狀態就有可能和用它的日誌恢復出來的庫的狀態不一致。

你可能會說，這個機率是否是很低，平時也沒有什麼動不動就須要恢復臨時庫的場景呀？

其實不是的，不僅是誤操做後須要用這個過程來恢復數據。當你須要擴容的時候，也就是須要再多搭建一些備庫來增長系統的讀能力的時候，如今常見的作法也是用全量備份加上應用binlog來實現的，這個「不一致」就會致使你的線上出現主從數據庫不一致的狀況。

簡單說，redo log和binlog均可以用於表示事務的提交狀態，而兩階段提交就是讓這兩個狀態保持邏輯上的一致。

小結

今天，我介紹了MySQL裏面最重要的兩個日誌，即物理日誌redo log和邏輯日誌binlog。

redo log用於保證crash-safe能力。innodb_flush_log_at_trx_commit這個參數設置成1的時候，表示每次事務的redo log都直接持久化到磁盤。這個參數我建議你設置成1，這樣能夠保證MySQL異常重啓以後數據不丟失。

sync_binlog這個參數設置成1的時候，表示每次事務的binlog都持久化到磁盤。這個參數我也建議你設置成1，這樣能夠保證MySQL異常重啓以後binlog不丟失。

我還跟你介紹了與MySQL日誌系統密切相關的「兩階段提交」。兩階段提交是跨系統維持數據邏輯一致性時經常使用的一個方案，即便你不作數據庫內核開發，平常開發中也有可能會用到。

文章的最後，我給你留一個思考題吧。前面我說到按期全量備份的週期「取決於系統重要性，有的是一天一備，有的是一週一備」。那麼在什麼場景下，一天一備會比一週一備更有優點呢？或者說，它影響了這個數據庫系統的哪一個指標？