用pigz代替gzip -- 並行壓縮軟件

用pigz代替gzip

By yejr on 03 十二月 2012

pig是個啥東東？
官網：http://zlib.net/pigz
一句話簡介：

A parallel implementation of gzip for modernmulti-processor, multi-core machines。

簡單的說，就是支持並行的gzip。廢話很少說，開始測試。

pig默認用當前邏輯cpu個數來併發壓縮，沒法檢測個數的話，則併發8個線程。

1、測試壓縮包文件1
壓縮前
-rw-r--r-- 1 root root 2474772480 Dec  3 19:54 dbs.tar

一、gzip測試
壓縮耗時，CPU最高：101.6%
real    2m18.042s
user    2m10.204s
sys     0m6.876s

解壓縮耗時，CPU最高：101.6%
real    0m26.756s
user    0m20.175s
sys     0m6.580s

壓縮後
-rw-r--r-- 1 root root 2349563863 Dec  3 19:54 dbs.tar.gz

二、pigz測試
併發8線程(默認)：
壓縮耗時，CPU最高：832%
real    0m21.710s
user    2m31.229s
sys     0m9.101s

解壓縮耗時，CPU最高：199%
real    0m13.239s
user    0m11.791s
sys     0m12.426s

併發4線程：
壓縮耗時，CPU最高：427.6%
real    0m38.299s
user    2m30.701s
sys     0m8.369s

解壓縮耗時，CPU最高：202%
real    0m13.294s
user    0m12.154s
sys     0m11.862s

壓縮後
-rw-r--r-- 1 root root 2350161547 Dec  3 19:54 dbs.tar.gz

2、測試壓縮包文件2
壓縮前
-rw-r--r-- 1 root root 5248890880 Dec  3 20:26 mysql-5.5.28-linux2.6-x86_64.tar

一、gzip測試
壓縮耗時，CPU最高：101%
real    6m20.524s
user    6m2.466s
sys     0m7.410s

解壓縮耗時，CPU最高： 101%
real    0m58.893s
user    0m46.258s
sys     0m11.944s

壓縮後
-rw-r--r-- 1 root root 1410045513 Dec  3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

二、pigz測試
併發8線程(默認)：
壓縮耗時，CPU最高： 799%
real    1m11.908s
user    6m36.717s
sys     0m9.860s

解壓縮耗時，CPU最高：179%
real    0m33.188s
user    0m38.069s
sys     0m16.728s

併發4線程：
壓縮耗時，CPU最高： 418%
real    1m41.547s
user    6m36.782s
sys     0m9.806s

解壓縮耗時，CPU最高： 179%
real    0m33.120s
user    0m37.500s
sys     0m16.956s

壓縮後
-rw-r--r-- 1 root root 1406061442 Dec  3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

結論：

一、pigz默認用法(默認併發線程是邏輯cpu個數)可比gzip快5.3倍，CPU消耗則是gzip的8倍，壓縮比則至關；
二、併發8線程對比4線程提高：41.2%，16線程對比8線程提高：27.9%，32線程對比16線程提高：3%；
三、在對壓縮效率要求較高、但對短期內CPU消耗較高不受影響的場景，使用pigz很是合適。

轉自：http://imysql.cn/2012/12/03/using-pigz-instead-of-gzip.html

經我的測試，gzip和pigz命令能夠互通，即用gzip壓縮的文件能夠用pigz來解壓，pigz壓縮的文件也能夠用gzip來解壓·~~~~放心使用，哈哈····