前面咱們系統瞭解了一個查詢語句的執行流程,並介紹了執行過程當中涉及的處理模塊。相信你還記得,一條查詢語句的執行過程通常是通過鏈接器、分析器、優化器、執行器等功能模塊,最後到達存儲引擎。mysql
那麼,一條更新語句的執行流程又是怎樣的呢?以前你可能常常聽 DBA 同事說,MySQL 能夠恢復到半個月內任意一秒的狀態,驚歎的同時,你是否是心中也會難免會好奇,這是怎樣作到的呢?sql
咱們仍是從一個表的一條更新語句提及,下面是這個表的建立語句,這個表有一個主鍵 ID 和一個整型字段 c:數據庫
mysql> create table T( ID int primary key, c int );
若是要將 ID=2 這一行的值加 1,SQL 語句就會這麼寫:緩存
mysql> update T set c=c+1 where ID=2;
首先,能夠肯定的說,查詢語句的那一套流程,更新語句也是一樣會走一遍。優化
你執行語句前要先鏈接數據庫,這是鏈接器的工做。插件
前面咱們說過,在一個表上有更新的時候,跟這個表有關的查詢緩存會失效,因此這條語句就會把表 T 上全部緩存結果都清空。這也就是咱們通常不建議使用查詢緩存的緣由。設計
接下來,分析器會經過詞法和語法解析知道這是一條更新語句。優化器決定要使用 ID 這個索引。而後,執行器負責具體執行,找到這一行,而後更新。3d
與查詢流程不同的是,更新流程還涉及兩個重要的日誌模塊,它們正是咱們今天要討論的主角:redo log(重作日誌)和 binlog(歸檔日誌)。若是接觸 MySQL,那這兩個詞確定是繞不過的,我後面的內容裏也會不斷地和你強調。不過話說回來,redo log 和 binlog 在設計上有不少有意思的地方,這些設計思路也能夠用到你本身的程序裏。日誌
不知道你還記不記得《孔乙己》這篇文章,酒店掌櫃有一個粉板,專門用來記錄客人的賒帳記錄。若是賒帳的人很少,那麼他能夠把顧客名和帳目寫在板上。但若是賒帳的人多了,粉板總會有記不下的時候,這個時候掌櫃必定還有一個專門記錄賒帳的帳本。code
若是有人要賒帳或者還帳的話,掌櫃通常有兩種作法:
一種作法是直接把帳本翻出來,把此次賒的帳加上去或者扣除掉;另外一種作法是先在粉板上記下此次的帳,等打烊之後再把帳本翻出來覈算。
在生意紅火櫃檯很忙時,掌櫃必定會選擇後者,由於前者操做實在是太麻煩了。首先,你得找到這我的的賒帳總額那條記錄。你想一想,密密麻麻幾十頁,掌櫃要找到那個名字,可能還得帶上老花鏡慢慢找,找到以後再拿出算盤計算,最後再將結果寫回到帳本上。
這整個過程想一想都麻煩。相比之下,仍是先在粉板上記一下方便。你想一想,若是掌櫃沒有粉板的幫助,每次記帳都得翻帳本,效率是否是低得讓人難以忍受?
一樣,在 MySQL 裏也有這個問題,若是每一次的更新操做都須要寫進磁盤,而後磁盤也要找到對應的那條記錄,而後再更新,整個過程 IO 成本、查找成本都很高。爲了解決這個問題,MySQL 的設計者就用了相似酒店掌櫃粉板的思路來提高更新效率。
而粉板和帳本配合的整個過程,其實就是 MySQL 裏常常說到的 WAL 技術,WAL 的全稱是Write-Ahead Logging,它的關鍵點就是先寫日誌,再寫磁盤,也就是先寫粉板,等不忙的時候再寫帳本。
具體來講,當有一條記錄須要更新的時候,InnoDB 引擎就會先把記錄寫到 redo log(粉板)裏面,並更新內存,這個時候更新就算完成了。同時,InnoDB 引擎會在適當的時候,將這個操做記錄更新到磁盤裏面,而這個更新每每是在系統比較空閒的時候作,這就像打烊之後掌櫃作的事。
若是今天賒帳的很少,掌櫃能夠等打烊後再整理。但若是某天賒帳的特別多,粉板寫滿了,又怎麼辦呢?這個時候掌櫃只好放下手中的活兒,把粉板中的一部分賒帳記錄更新到帳本中,而後把這些記錄從粉板上擦掉,爲記新帳騰出空間。
與此相似,InnoDB 的 redo log 是固定大小的,好比能夠配置爲一組 4 個文件,每一個文件的大小是 1GB,那麼這塊「粉板」總共就能夠記錄 4GB 的操做。從頭開始寫,寫到末尾就又回到開頭循環寫,以下面這個圖所示。
wirte pos 是當前記錄的位置,一邊寫一邊後移,寫到第 3 號文件末尾後就回到 0 號文件開頭。
checkpoint 是當前要擦除的位置,也是日後推移而且循環的,擦除記錄前要把記錄更新到數據文件。
write pos 和 checkpoint 之間的是「粉板」上還空着的部分,能夠用來記錄新的操做。若是write pos 追上 checkpoint,表示「粉板」滿了,這時候不能再執行新的更新,得停下來先擦掉一些記錄,把 checkpoint 推動一下。
有了 redo log,InnoDB 就能夠保證即便數據庫發生異常重啓,以前提交的記錄都不會丟失,這個能力稱爲crash-safe。
要理解 crash-safe 這個概念,能夠想一想咱們前面賒帳記錄的例子。只要賒帳記錄記在了粉板上或寫在了帳本上,以後即便掌櫃忘記了,好比忽然停業幾天,恢復生意後依然能夠經過帳本和粉板上的數據明確賒帳帳目。
前面咱們講過,MySQL 總體來看,其實就有兩塊:一塊是 Server 層,它主要作的是 MySQL功能層面的事情;還有一塊是引擎層,負責存儲相關的具體事宜。上面咱們聊到的粉板 redo log 是 InnoDB 引擎特有的日誌,而 Server 層也有本身的日誌,稱爲 binlog(歸檔日誌)。我想你確定會問,爲何會有兩份日誌呢?
由於最開始 MySQL 裏並無 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM,可是 MyISAM沒有 crash-safe 的能力,binlog 日誌只能用於歸檔。而 InnoDB 是另外一個公司以插件形式引入MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,因此 InnoDB 使用另一套日誌系統——也就是 redo log 來實現 crash-safe 能力。
這兩種日誌有如下三點不一樣。
你可能注意到了,最後三步看上去有點「繞」,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit,這就是"兩階段提交"。
爲何必須有「兩階段提交」呢?這是爲了讓兩份日誌之間的邏輯一致。要說明這個問題,咱們得從文章開頭的那個問題提及:怎樣讓數據庫恢復到半個月內任意一秒的狀態?
前面咱們說過了,binlog 會記錄全部的邏輯操做,而且是採用「追加寫」的形式。若是你的DBA 承諾說半個月內能夠恢復,那麼備份系統中必定會保存最近半個月的全部 binlog,同時系統會按期作整庫備份。這裏的「按期」取決於系統的重要性,能夠是一天一備,也能夠是一週一備。
當須要恢復到指定的某一秒時,好比某天下午兩點發現中午十二點有一次誤刪表,須要找回數據,那你能夠這麼作:
首先,找到最近的一次全量備份,若是你運氣好,可能就是昨天晚上的一個備份,從這個備份恢復到臨時庫;而後,從備份的時間點開始,將備份的 binlog 依次取出來,重放到中午誤刪表以前的那個時刻。
這樣你的臨時庫就跟誤刪以前的線上庫同樣了,而後你能夠把表數據從臨時庫取出來,按須要恢復到線上庫去。
好了,說完了數據恢復過程,咱們回來講說,爲何日誌須要「兩階段提交」。這裏不妨用反證法來進行解釋。
因爲 redo log 和 binlog 是兩個獨立的邏輯,若是不用兩階段提交,要麼就是先寫完 redo log再寫 binlog,或者採用反過來的順序。咱們看看這兩種方式會有什麼問題。
仍然用前面的 update 語句來作例子。假設當前 ID=2 的行,字段 c 的值是 0,再假設執行update 語句過程當中在寫完第一個日誌後,第二個日誌尚未寫完期間發生了 crash,會出現什麼狀況呢?
今天,我介紹了 MySQL 裏面最重要的兩個日誌,即物理日誌 redo log 和邏輯日誌 binlog。redo log 用於保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數設置成 1 的時候,表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設置成 1,這樣能夠保證 MySQL 異常重啓以後數據不丟失。
sync_binlog 這個參數設置成 1 的時候,表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設置成 1,這樣能夠保證 MySQL 異常重啓以後 binlog 不丟失。
我還跟你介紹了與 MySQL 日誌系統密切相關的「兩階段提交」。兩階段提交是跨系統維持數據邏輯一致性時經常使用的一個方案,即便你不作數據庫內核開發,平常開發中也有可能會用到。文章的最後,我給你留一個思考題吧。前面我說到按期全量備份的週期「取決於系統重要性,有的是一天一備,有的是一週一備」。那麼在什麼場景下,一天一備會比一週一備更有優點呢?或者說,它影響了這個數據庫系統的哪一個指標?