首页 / 操作系统 / Linux / 让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz
pig是个啥东东? 官网:http://zlib.net/pigz 一句话简介:复制代码 代码如下: A parallel implementation of gzip for modernmulti-processor, multi-core machines。 简单的说,就是支持并行的gzip。废话不多说,开始测试。 pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。一、测试压缩包文件1 复制代码 代码如下: 压缩前 -rw-r--r-- 1 root root 2474772480 Dec3 19:54 dbs.tar</p><p>1、gzip测试 压缩耗时,CPU最高:101.6% real2m18.042s user2m10.204s sys 0m6.876s</p><p>解压缩耗时,CPU最高:101.6% real0m26.756s user0m20.175s sys 0m6.580s</p><p>压缩后 -rw-r--r-- 1 root root 2349563863 Dec3 19:54 dbs.tar.gz</p><p>2、pigz测试 并发8线程(默认): 压缩耗时,CPU最高:832% real0m21.710s user2m31.229s sys 0m9.101s</p><p>解压缩耗时,CPU最高:199% real0m13.239s user0m11.791s sys 0m12.426s</p><p>并发4线程: 压缩耗时,CPU最高:427.6% real0m38.299s user2m30.701s sys 0m8.369s</p><p>解压缩耗时,CPU最高:202% real0m13.294s user0m12.154s sys 0m11.862s</p><p>压缩后 -rw-r--r-- 1 root root 2350161547 Dec3 19:54 dbs.tar.gz</p><p>二、测试压缩包文件2 压缩前 -rw-r--r-- 1 root root 5248890880 Dec3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p><p>1、gzip测试 压缩耗时,CPU最高:101% real6m20.524s user6m2.466s sys 0m7.410s</p><p>解压缩耗时,CPU最高: 101% real0m58.893s user0m46.258s sys 0m11.944s</p><p>压缩后 -rw-r--r-- 1 root root 1410045513 Dec3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p><p>2、pigz测试 并发8线程(默认): 压缩耗时,CPU最高: 799% real1m11.908s user6m36.717s sys 0m9.860s</p><p>解压缩耗时,CPU最高:179% real0m33.188s user0m38.069s sys 0m16.728s</p><p>并发4线程: 压缩耗时,CPU最高: 418% real1m41.547s user6m36.782s sys 0m9.806s</p><p>解压缩耗时,CPU最高: 179% real0m33.120s user0m37.500s sys 0m16.956s</p><p>压缩后 -rw-r--r-- 1 root root 1406061442 Dec3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz结论: 1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当; 2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%; 3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。
收藏该网址