今天我要和你討論的是一個沉重的話題:誤刪數據。mysql
在前面幾篇文章中,咱們介紹了MySQL的高可用架構。固然,傳統的高可用架構是不能預防誤刪數據的,由於主庫的一個drop table命令,會經過binlog傳給全部從庫和級聯從庫,進而致使整個集羣的實例都會執行這個命令。sql
雖然咱們以前遇到的大多數的數據被刪,都是運維同窗或者DBA背鍋的。但實際上,只要有數據操做權限的同窗,都有可能踩到誤刪數據這條線。數據庫
今天咱們就來聊聊誤刪數據先後,咱們能夠作些什麼,減小誤刪數據的風險,和由誤刪數據帶來的損失。安全
爲了找到解決誤刪數據的更高效的方法,咱們須要先對和MySQL相關的誤刪數據,作下分類:架構
使用delete語句誤刪數據行;運維
使用drop table或者truncate table語句誤刪數據表;工具
使用drop database語句誤刪數據庫;性能
使用rm命令誤刪整個MySQL實例。spa
在第24篇文章中,咱們提到若是是使用delete語句誤刪了數據行,能夠用Flashback工具經過閃回把數據恢復回來。線程
Flashback恢復數據的原理,是修改binlog的內容,拿回原庫重放。而可以使用這個方案的前提是,須要確保binlog_format=row 和 binlog_row_image=FULL。
具體恢復數據時,對單個事務作以下處理:
對於insert語句,對應的binlog event類型是Write_rows event,把它改爲Delete_rows event便可;
同理,對於delete語句,也是將Delete_rows event改成Write_rows event;
而若是是Update_rows的話,binlog裏面記錄了數據行修改前和修改後的值,對調這兩行的位置便可。
若是誤操做不是一個,而是多個,會怎麼樣呢?好比下面三個事務:
(A)delete ... (B)insert ... (C)update ...
如今要把數據庫恢復回這三個事務操做以前的狀態,用Flashback工具解析binlog後,寫回主庫的命令是:
(reverse C)update ... (reverse B)delete ... (reverse A)insert ...
也就是說,若是誤刪數據涉及到了多個事務的話,須要將事務的順序調過來再執行。
須要說明的是,我不建議你直接在主庫上執行這些操做。
恢復數據比較安全的作法,是恢復出一個備份,或者找一個從庫做爲臨時庫,在這個臨時庫上執行這些操做,而後再將確認過的臨時庫的數據,恢復回主庫。
爲何要這麼作呢?
這是由於,一個在執行線上邏輯的主庫,數據狀態的變動每每是有關聯的。可能因爲發現數據問題的時間晚了一點兒,就致使已經在以前誤操做的基礎上,業務代碼邏輯又繼續修改了其餘數據。因此,若是這時候單獨恢復這幾行數據,而又未經確認的話,就可能會出現對數據的二次破壞。
固然,咱們不止要說誤刪數據的過後處理辦法,更重要是要作到事前預防。我有如下兩個建議:
把sql_safe_updates參數設置爲on。這樣一來,若是咱們忘記在delete或者update語句中寫where條件,或者where條件裏面沒有包含索引字段的話,這條語句的執行就會報錯。
代碼上線前,必須通過SQL審計。
你可能會說,設置了sql_safe_updates=on,若是我真的要把一個小表的數據所有刪掉,應該怎麼辦呢?
若是你肯定這個刪除操做沒問題的話,能夠在delete語句中加上where條件,好比where id>=0。
可是,delete全表是很慢的,須要生成回滾日誌、寫redo、寫binlog。因此,從性能角度考慮,你應該優先考慮使用truncate table或者drop table命令。
使用delete命令刪除的數據,你還能夠用Flashback來恢復。而使用truncate /drop table和drop database命令刪除的數據,就沒辦法經過Flashback來恢復了。爲何呢?
這是由於,即便咱們配置了binlog_format=row,執行這三個命令時,記錄的binlog仍是statement格式。binlog裏面就只有一個truncate/drop 語句,這些信息是恢復不出數據的。
那麼,若是咱們真的是使用這幾條命令誤刪數據了,又該怎麼辦呢?
這種狀況下,要想恢復數據,就須要使用全量備份,加增量日誌的方式了。這個方案要求線上有按期的全量備份,而且實時備份binlog。
在這兩個條件都具有的狀況下,假若有人中午12點誤刪了一個庫,恢復數據的流程以下:
取最近一次全量備份,假設這個庫是一天一備,上次備份是當天0點;
用備份恢復出一個臨時庫;
從日誌備份裏面,取出凌晨0點以後的日誌;
把這些日誌,除了誤刪除數據的語句外,所有應用到臨時庫。
這個流程的示意圖以下所示:
關於這個過程,我須要和你說明以下幾點:
爲了加速數據恢復,若是這個臨時庫上有多個數據庫,你能夠在使用mysqlbinlog命令時,加上一個–database參數,用來指定誤刪表所在的庫。這樣,就避免了在恢復數據時還要應用其餘庫日誌的狀況。
在應用日誌的時候,須要跳過12點誤操做的那個語句的binlog:
不過,即便這樣,使用mysqlbinlog方法恢復數據仍是不夠快,主要緣由有兩個:
若是是誤刪表,最好就是隻恢復出這張表,也就是隻重放這張表的操做,可是mysqlbinlog工具並不能指定只解析一個表的日誌;
用mysqlbinlog解析出日誌應用,應用日誌的過程就只能是單線程。咱們在第26篇文章中介紹的那些並行複製的方法,在這裏都用不上。
一種加速的方法是,在用備份恢復出臨時實例以後,將這個臨時實例設置成線上備庫的從庫,這樣:
在start slave以前,先經過執行
change replication filter replicate_do_table = (tbl_name) 命令,就可讓臨時庫只同步誤操做的表;
這樣作也能夠用上並行複製技術,來加速整個數據恢復過程。
這個過程的示意圖以下所示。
能夠看到,圖中binlog備份系統到線上備庫有一條虛線,是指若是因爲時間過久,備庫上已經刪除了臨時實例須要的binlog的話,咱們能夠從binlog備份系統中找到須要的binlog,再放回備庫中。
假設,咱們發現當前臨時實例須要的binlog是從master.000005開始的,可是在備庫上執行show binlogs 顯示的最小的binlog文件是master.000007,意味着少了兩個binlog文件。這時,咱們就須要去binlog備份系統中找到這兩個文件。
把以前刪掉的binlog放回備庫的操做步驟,是這樣的:
從備份系統下載master.000005和master.000006這兩個文件,放到備庫的日誌目錄下;
打開日誌目錄下的master.index文件,在文件開頭加入兩行,內容分別是 「./master.000005」和「./master.000006」;
重啓備庫,目的是要讓備庫從新識別這兩個日誌文件;
如今這個備庫上就有了臨時庫須要的全部binlog了,創建主備關係,就能夠正常同步了。
不管是把mysqlbinlog工具解析出的binlog文件應用到臨時庫,仍是把臨時庫接到備庫上,這兩個方案的共同點是:誤刪庫或者表後,恢復數據的思路主要就是經過備份,再加上應用binlog的方式。
也就是說,這兩個方案都要求備份系統按期備份全量日誌,並且須要確保binlog在被從本地刪除以前已經作了備份。
可是,一個系統不可能備份無限的日誌,你還須要根據成本和磁盤空間資源,設定一個日誌保留的天數。若是你的DBA團隊告訴你,能夠保證把某個實例恢復到半個月內的任意時間點,這就表示備份系統保留的日誌時間就至少是半個月。
另外,我建議你不論使用上述哪一種方式,都要把這個數據恢復功能作成自動化工具,而且常常拿出來演練。爲何這麼說呢?
這裏的緣由,主要包括兩個方面:
雖然「發生這種事,你們都不想的」,可是萬一出現了誤刪事件,可以快速恢復數據,將損失降到最小,也應該不用跑路了。
而若是臨時再手忙腳亂地手動操做,最後又誤操做了,對業務形成了二次傷害,那就說不過去了。
雖然咱們能夠經過利用並行複製來加速恢復數據的過程,可是這個方案仍然存在「恢復時間不可控」的問題。
若是一個庫的備份特別大,或者誤操做的時間距離上一個全量備份的時間較長,好比一週一備的實例,在備份以後的第6天發生誤操做,那就須要恢復6天的日誌,這個恢復時間多是要按天來計算的。
那麼,咱們有什麼方法能夠縮短恢復數據須要的時間呢?
若是有很是核心的業務,不容許太長的恢復時間,咱們能夠考慮搭建延遲複製的備庫。這個功能是MySQL 5.6版本引入的。
通常的主備複製結構存在的問題是,若是主庫上有個表被誤刪了,這個命令很快也會被髮給全部從庫,進而致使全部從庫的數據表也都一塊兒被誤刪了。
延遲複製的備庫是一種特殊的備庫,經過 CHANGE MASTER TO MASTER_DELAY = N命令,能夠指定這個備庫持續保持跟主庫有N秒的延遲。
好比你把N設置爲3600,這就表明了若是主庫上有數據被誤刪了,而且在1小時內發現了這個誤操做命令,這個命令就尚未在這個延遲複製的備庫執行。這時候到這個備庫上執行stop slave,再經過以前介紹的方法,跳過誤操做命令,就能夠恢復出須要的數據。
這樣的話,你就隨時能夠獲得一個,只須要最多再追1小時,就能夠恢復出數據的臨時實例,也就縮短了整個數據恢復須要的時間。
雖然常在河邊走,很難不溼鞋,但終究仍是能夠找到一些方法來避免的。因此這裏,我也會給你一些減小誤刪操做風險的建議。
第一條建議是,帳號分離。這樣作的目的是,避免寫錯命令。好比:
第二條建議是,制定操做規範。這樣作的目的,是避免寫錯要刪除的表名。好比:
其實,對於一個有高可用機制的MySQL集羣來講,最不怕的就是rm刪除數據了。只要不是惡意地把整個集羣刪除,而只是刪掉了其中某一個節點的數據的話,HA系統就會開始工做,選出一個新的主庫,從而保證整個集羣的正常工做。
這時,你要作的就是在這個節點上把數據恢復回來,再接入整個集羣。
固然了,如今不止是DBA有自動化系統,SA(系統管理員)也有自動化系統,因此也許一個批量下線機器的操做,會讓你整個MySQL集羣的全部節點都全軍覆沒。
應對這種狀況,個人建議只能是說盡可能把你的備份跨機房,或者最好是跨城市保存。
今天,我和你討論了誤刪數據的幾種可能,以及誤刪後的處理方法。
但,我要強調的是,預防遠比處理的意義來得大。
另外,在MySQL的集羣方案中,會時不時地用到備份來恢復實例,所以按期檢查備份的有效性也頗有必要。
若是你是業務開發同窗,你能夠用show grants命令查看帳戶的權限,若是權限過大,能夠建議DBA同窗給你分配權限低一些的帳號;你也能夠評估業務的重要性,和DBA商量備份的週期、是否有必要建立延遲複製的備庫等等。
數據和服務的可靠性不止是運維團隊的工做,最終是各個環節一塊兒保障的結果。
今天的課後話題是,回憶下你親身經歷過的誤刪數據事件吧,你用了什麼方法來恢復數據呢?你在這個過程當中獲得的經驗又是什麼呢?
你能夠把你的經歷和經驗寫在留言區,我會在下一篇文章的末尾選取有趣的評論和你一塊兒討論。感謝你的收聽,也歡迎你把這篇文章分享給更多的朋友一塊兒閱讀。
我在上一篇文章給你留的問題,是關於空表的間隙的定義。
一個空表就只有一個間隙。好比,在空表上執行:
begin; select * from t where id>1 for update;
這個查詢語句加鎖的範圍就是next-key lock (-∞, supremum]。
驗證方法的話,你可使用下面的操做序列。你能夠在圖4中看到顯示的結果。