MySQL數據庫詳解(二)執行SQL更新時,其底層經歷了哪些操做?

​ 前面咱們系統瞭解了一個查詢語句的執行流程,並介紹了執行過程當中涉及的處理模塊。相信你還記得,一條查詢語句的執行過程通常是通過鏈接器、分析器、優化器、執行器等功能模塊,最後到達存儲引擎。mysql

那麼,一條更新語句的執行流程又是怎樣的呢?以前你可能常常聽 DBA 同事說,MySQL 能夠恢復到半個月內任意一秒的狀態,驚歎的同時,你是否是心中也會難免會好奇,這是怎樣作到的呢?sql

咱們仍是從一個表的一條更新語句提及,下面是這個表的建立語句,這個表有一個主鍵 ID 和一個整型字段 c:數據庫

mysql> create table T(
    ID int primary key, 
    c int
    );

若是要將 ID=2 這一行的值加 1,SQL 語句就會這麼寫:緩存

mysql> update T set c=c+1 where ID=2;

首先,能夠肯定的說,查詢語句的那一套流程,更新語句也是一樣會走一遍。優化

你執行語句前要先鏈接數據庫,這是鏈接器的工做。插件

前面咱們說過,在一個表上有更新的時候,跟這個表有關的查詢緩存會失效,因此這條語句就會把表 T 上全部緩存結果都清空。這也就是咱們通常不建議使用查詢緩存的緣由。設計

接下來,分析器會經過詞法和語法解析知道這是一條更新語句。優化器決定要使用 ID 這個索引。而後,執行器負責具體執行,找到這一行,而後更新。3d

與查詢流程不同的是,更新流程還涉及兩個重要的日誌模塊,它們正是咱們今天要討論的主角:redo log(重作日誌)和 binlog(歸檔日誌)。若是接觸 MySQL,那這兩個詞確定是繞不過的,我後面的內容裏也會不斷地和你強調。不過話說回來,redo log 和 binlog 在設計上有不少有意思的地方,這些設計思路也能夠用到你本身的程序裏。日誌

重要的日誌模塊:redo log

不知道你還記不記得《孔乙己》這篇文章,酒店掌櫃有一個粉板,專門用來記錄客人的賒帳記錄。若是賒帳的人很少,那麼他能夠把顧客名和帳目寫在板上。但若是賒帳的人多了,粉板總會有記不下的時候,這個時候掌櫃必定還有一個專門記錄賒帳的帳本。code

若是有人要賒帳或者還帳的話,掌櫃通常有兩種作法:
一種作法是直接把帳本翻出來,把此次賒的帳加上去或者扣除掉;另外一種作法是先在粉板上記下此次的帳,等打烊之後再把帳本翻出來覈算。

在生意紅火櫃檯很忙時,掌櫃必定會選擇後者,由於前者操做實在是太麻煩了。首先,你得找到這我的的賒帳總額那條記錄。你想一想,密密麻麻幾十頁,掌櫃要找到那個名字,可能還得帶上老花鏡慢慢找,找到以後再拿出算盤計算,最後再將結果寫回到帳本上。

這整個過程想一想都麻煩。相比之下,仍是先在粉板上記一下方便。你想一想,若是掌櫃沒有粉板的幫助,每次記帳都得翻帳本,效率是否是低得讓人難以忍受?

一樣,在 MySQL 裏也有這個問題,若是每一次的更新操做都須要寫進磁盤,而後磁盤也要找到對應的那條記錄,而後再更新,整個過程 IO 成本、查找成本都很高。爲了解決這個問題,MySQL 的設計者就用了相似酒店掌櫃粉板的思路來提高更新效率。

而粉板和帳本配合的整個過程,其實就是 MySQL 裏常常說到的 WAL 技術,WAL 的全稱是Write-Ahead Logging,它的關鍵點就是先寫日誌,再寫磁盤,也就是先寫粉板,等不忙的時候再寫帳本。

具體來講,當有一條記錄須要更新的時候,InnoDB 引擎就會先把記錄寫到 redo log(粉板)裏面,並更新內存,這個時候更新就算完成了。同時,InnoDB 引擎會在適當的時候,將這個操做記錄更新到磁盤裏面,而這個更新每每是在系統比較空閒的時候作,這就像打烊之後掌櫃作的事。

若是今天賒帳的很少,掌櫃能夠等打烊後再整理。但若是某天賒帳的特別多,粉板寫滿了,又怎麼辦呢?這個時候掌櫃只好放下手中的活兒,把粉板中的一部分賒帳記錄更新到帳本中,而後把這些記錄從粉板上擦掉,爲記新帳騰出空間。

與此相似,InnoDB 的 redo log 是固定大小的,好比能夠配置爲一組 4 個文件,每一個文件的大小是 1GB,那麼這塊「粉板」總共就能夠記錄 4GB 的操做。從頭開始寫,寫到末尾就又回到開頭循環寫,以下面這個圖所示。

wirte pos 是當前記錄的位置,一邊寫一邊後移,寫到第 3 號文件末尾後就回到 0 號文件開頭。

checkpoint 是當前要擦除的位置,也是日後推移而且循環的,擦除記錄前要把記錄更新到數據文件。

write pos 和 checkpoint 之間的是「粉板」上還空着的部分,能夠用來記錄新的操做。若是write pos 追上 checkpoint,表示「粉板」滿了,這時候不能再執行新的更新,得停下來先擦掉一些記錄,把 checkpoint 推動一下。

有了 redo log,InnoDB 就能夠保證即便數據庫發生異常重啓,以前提交的記錄都不會丟失,這個能力稱爲crash-safe。

要理解 crash-safe 這個概念,能夠想一想咱們前面賒帳記錄的例子。只要賒帳記錄記在了粉板上或寫在了帳本上,以後即便掌櫃忘記了,好比忽然停業幾天,恢復生意後依然能夠經過帳本和粉板上的數據明確賒帳帳目。

重要的日誌模塊:binlog

前面咱們講過,MySQL 總體來看,其實就有兩塊:一塊是 Server 層,它主要作的是 MySQL功能層面的事情;還有一塊是引擎層,負責存儲相關的具體事宜。上面咱們聊到的粉板 redo log 是 InnoDB 引擎特有的日誌,而 Server 層也有本身的日誌,稱爲 binlog(歸檔日誌)。我想你確定會問,爲何會有兩份日誌呢?

由於最開始 MySQL 裏並無 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM,可是 MyISAM沒有 crash-safe 的能力,binlog 日誌只能用於歸檔。而 InnoDB 是另外一個公司以插件形式引入MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,因此 InnoDB 使用另一套日誌系統——也就是 redo log 來實現 crash-safe 能力。

這兩種日誌有如下三點不一樣。

  1. redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 層實現的,全部引擎均可以使用。
  2. redo log 是物理日誌,記錄的是「在某個數據頁上作了什麼修改」;binlog 是邏輯日誌,記錄的是這個語句的原始邏輯,好比「給 ID=2 這一行的 c 字段加 1 」。
  3. redo log 是循環寫的,空間固定會用完;binlog 是能夠追加寫入的。「追加寫」是指binlog 文件寫到必定大小後會切換到下一個,並不會覆蓋之前的日誌。有了對這兩個日誌的概念性理解,咱們再來看執行器和 InnoDB 引擎在執行這個簡單的 update語句時的內部流程。
  4. 執行器先找引擎取 ID=2 這一行。ID 是主鍵,引擎直接用樹搜索找到這一行。若是 ID=2這一行所在的數據頁原本就在內存中,就直接返回給執行器;不然,須要先從磁盤讀入內存,而後再返回。
  5. 執行器拿到引擎給的行數據,把這個值加上 1,好比原來是 N,如今就是 N+1,獲得新的一行數據,再調用引擎接口寫入這行新數據。
  6. 引擎將這行新數據更新到內存中,同時將這個更新操做記錄到 redo log 裏面,此時 redolog 處於 prepare 狀態。而後告知執行器執行完成了,隨時能夠提交事務。
  7. 執行器生成這個操做的 binlog,並把 binlog 寫入磁盤。
  8. 執行器調用引擎的提交事務接口,引擎把剛剛寫入的 redo log 改爲提交(commit)狀態,更新完成。這裏我給出這個 update 語句的執行流程圖,圖中淺色框表示是在 InnoDB 內部執行的,深色框表示是在執行器中執行的。

你可能注意到了,最後三步看上去有點「繞」,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit,這就是"兩階段提交"。

兩階段提交

爲何必須有「兩階段提交」呢?這是爲了讓兩份日誌之間的邏輯一致。要說明這個問題,咱們得從文章開頭的那個問題提及:怎樣讓數據庫恢復到半個月內任意一秒的狀態?

前面咱們說過了,binlog 會記錄全部的邏輯操做,而且是採用「追加寫」的形式。若是你的DBA 承諾說半個月內能夠恢復,那麼備份系統中必定會保存最近半個月的全部 binlog,同時系統會按期作整庫備份。這裏的「按期」取決於系統的重要性,能夠是一天一備,也能夠是一週一備。

當須要恢復到指定的某一秒時,好比某天下午兩點發現中午十二點有一次誤刪表,須要找回數據,那你能夠這麼作:
首先,找到最近的一次全量備份,若是你運氣好,可能就是昨天晚上的一個備份,從這個備份恢復到臨時庫;而後,從備份的時間點開始,將備份的 binlog 依次取出來,重放到中午誤刪表以前的那個時刻。

這樣你的臨時庫就跟誤刪以前的線上庫同樣了,而後你能夠把表數據從臨時庫取出來,按須要恢復到線上庫去。

好了,說完了數據恢復過程,咱們回來講說,爲何日誌須要「兩階段提交」。這裏不妨用反證法來進行解釋。

因爲 redo log 和 binlog 是兩個獨立的邏輯,若是不用兩階段提交,要麼就是先寫完 redo log再寫 binlog,或者採用反過來的順序。咱們看看這兩種方式會有什麼問題。

仍然用前面的 update 語句來作例子。假設當前 ID=2 的行,字段 c 的值是 0,再假設執行update 語句過程當中在寫完第一個日誌後,第二個日誌尚未寫完期間發生了 crash,會出現什麼狀況呢?

  1. 先寫 redo log 後寫 binlog。假設在 redo log 寫完,binlog 尚未寫完的時候,MySQL進程異常重啓。因爲咱們前面說過的,redo log 寫完以後,系統即便崩潰,仍然可以把數據恢復回來,因此恢復後這一行 c 的值是 1。可是因爲 binlog 沒寫完就 crash 了,這時候 binlog 裏面就沒有記錄這個語句。所以,以後備份日誌的時候,存起來的 binlog 裏面就沒有這條語句。而後你會發現,若是須要用這個 binlog 來恢復臨時庫的話,因爲這個語句的 binlog 丟失,這個臨時庫就會少了這一次更新,恢復出來的這一行 c 的值就是 0,與原庫的值不一樣。
  2. 先寫 binlog 後寫 redo log。若是在 binlog 寫完以後 crash,因爲 redo log 還沒寫,崩潰恢復之後這個事務無效,因此這一行 c 的值是 0。可是 binlog 裏面已經記錄了「把 c 從 0 改爲 1」這個日誌。因此,在以後用 binlog來恢復的時候就多了一個事務出來,恢復出來的這一行 c 的值就是 1,與原庫的值不一樣。
  3. 能夠看到,若是不使用「兩階段提交」,那麼數據庫的狀態就有可能和用它的日誌恢復出來的庫的狀態不一致。
    你可能會說,這個機率是否是很低,平時也沒有什麼動不動就須要恢復臨時庫的場景呀?其實不是的,不僅是誤操做後須要用這個過程來恢復數據。當你須要擴容的時候,也就是須要再多搭建一些備庫來增長系統的讀能力的時候,如今常見的作法也是用全量備份加上應用 binlog來實現的,這個「不一致」就會致使你的線上出現主從數據庫不一致的狀況。簡單說,redo log 和 binlog 均可以用於表示事務的提交狀態,而兩階段提交就是讓這兩個狀態保持邏輯上的一致。
小結

今天,我介紹了 MySQL 裏面最重要的兩個日誌,即物理日誌 redo log 和邏輯日誌 binlog。redo log 用於保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數設置成 1 的時候,表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設置成 1,這樣能夠保證 MySQL 異常重啓以後數據不丟失。

sync_binlog 這個參數設置成 1 的時候,表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設置成 1,這樣能夠保證 MySQL 異常重啓以後 binlog 不丟失。

我還跟你介紹了與 MySQL 日誌系統密切相關的「兩階段提交」。兩階段提交是跨系統維持數據邏輯一致性時經常使用的一個方案,即便你不作數據庫內核開發,平常開發中也有可能會用到。文章的最後,我給你留一個思考題吧。前面我說到按期全量備份的週期「取決於系統重要性,有的是一天一備,有的是一週一備」。那麼在什麼場景下,一天一備會比一週一備更有優點呢?或者說,它影響了這個數據庫系統的哪一個指標?

相關文章
相關標籤/搜索