MySQL如何優雅的刪除大表

前言

刪除表,你們下意識想到的命令多是直接使用DROP TABLE "表名",這是初生牛犢的作法,由於當要刪除的表達空間到幾十G,甚至是幾百G的表時候。這樣一條命令下去,MySQL可能就直接夯住了,外在表現就是QPS急速降低,客戶請求變慢。mysql

解決辦法

1.業務低峯時間手動執行刪除

這個可能就須要DBA不辭辛勞,大晚上爬起來刪表了。linux

2.先清除數據,最後再刪除的方式

譬如1000萬條數據,寫腳本每次刪除20萬,睡眠一段時間,繼續執行。這樣也能作到對用戶無感知。sql

3.對錶文件(idb文件)作一個硬連接來加速刪除

這個方法利用了linux下硬連接的知識,來進行快速刪除,不記得話能夠回去翻一下《鳥哥的linux私房菜》shell

ln data_center_update_log.ibd data_center_update_log.ibd.hdlk

[root@mysql01 sports_center]# ll
總用量 19903792
-rw-r----- 1 mysql mysql       9076 10月 17 13:15 data_center_update_log.frm
-rw-r----- 2 mysql mysql 8447328256 12月 23 11:35 data_center_update_log.ibd
-rw-r----- 2 mysql mysql 8447328256 12月 23 11:35 data_center_update_log.ibd.hdlk
  • 執行上面命令後,咱們就多了一個data_center_update_log.ibd.hdlk文件。此操做實際上不會佔用磁盤空間,只是增長了一次對磁盤上文件的引用。
  • 當咱們刪除其中任何一個文件時,都不會影響磁盤上真實的文件,只是將其引用數目減去1。當被引用的數目變爲1的時候,再去刪除文件,纔會真正作IO來刪除它。
  • 正是利用這個特色,將由原來mysql來刪除大文件的操做,轉換爲一個簡單的操做系統級的文件刪除,從而減小了對mysql的影響。

4.登錄mysql,執行drop表操做

很快,200萬條數據只用了1秒完成,此操做是在建立硬連接後執行的
mysql> drop tables data_center_update_log;
Query OK, 0 rows affected (1.02 sec)


mysql> exit
Bye

退出來,再次查看數據目錄,發現就只剩data_center_update_log.ibd.hdlk硬連接文件了
[root@mysql01 sports_center]# ll
總用量 19903792
-rw-r----- 2 mysql mysql 8447328256 12月 23 11:35 data_center_update_log.ibd.hdlk

5.如何正確刪除ibd.hdlk硬連接文件呢

  • 雖然drop table以後,剩下的硬連接文件已經和mysql沒有關係了。但若是文件過大,直接用rm命令來刪除,也是會形成IO開銷飆升,CPU負載太高,進而影響到MySQL。
  • 這裏咱們用到的方法,能夠循環分塊刪除,慢慢地清理文件,經過一個腳本便可搞定
  • Truncate命令一般用於將文件縮小或擴展到指定的大小。若是文件大於指定的大小,則會丟失額外的數據。若是文件較短,則會對其進行擴展,而且擴展部分的讀數爲零字節。
5.1 安裝truncate命令
[root@mysql01 ~]# cruncate
-bash: cruncate: 未找到命令
一般操做系統會安裝truncate命令,該命令在coreutils安裝包裏面,若是沒有安裝可使用下面命令安裝

[root@mysql01 ~]# yum provides truncate
coreutils-8.22-24.el7.x86_64 : A set of basic GNU tools commonly used in shell scripts
源    :base
匹配來源:
文件名    :/usr/bin/truncate

能夠看到truncate由coreutils安裝包提供,下面安裝coreutils安裝包:

[root@mysql01 ~]# yum install -y coreutils
5.2 truncate經常使用選項
-c, --no-create --> 不建立任何文件 
-o, --io-blocks --> 將大小視爲存儲塊的數量,而不是字節 
-r, --reference=RFILE --> 參考指定的文件大小 
-s, --size=SIZE --> 按照指定的字節設置文件大小
5.3 truncate_bigfile.sh腳本
  • 原理:使用truncate -s選項能夠指定文件大小,經過腳本指定每次文件減小的大小,並sleep睡眠必定時間,從而達到可控的刪除文件
  • 附:truncate_bigfile.sh腳本
#! /bin/bash
#

TRUNCATE=/usr/bin/truncate
FILE=$1

if [ x"$1" = x ];then
	echo "Please input filename in"
	exit 1;
else
	SIZE_M=$(du -sm "$1" | awk '{print $1}')

	for i in $(seq "${SIZE_M}" -100 0)
	do
		sleep 1
		echo "${TRUNCATE} -s ${i}M ${FILE}"
		${TRUNCATE} -s "${i}"M "${FILE}"
	done
fi

if [  $? -eq 0 ];then
        \rm -f "${FILE}"
else
        echo "Please check file"
fi

由於有悔,因此披星戴月;由於有夢,因此奮不顧身! 我的博客首發:easydb.net 微信公衆號:easydb 關注我,不走丟!

image

相關文章
相關標籤/搜索