|
|
|
|
移动端

Python中最快解压zip文件的方法

挑战在于这些 zip 文件太大了。它们的平均大小是 560MB 但是其中一些大于 1GB。这些文件中大多数是文本文件,但是其中同样也有一些巨大的二进制文件。不同寻常的是,每个 zip 文件包含 100 个文件但是其中 1-3 个文件却占据了多达 95% 的 zip 文件大小。

作者:Peterbe来源:Linux中国|2018-02-28 13:20

http://s2.51cto.com/oss/201802/28/dda164cd6ada5fcce13b4d9b1907a430.jpeg-wh_651x-s_4233093064.jpeg

假设现在的上下文(LCTT 译注:context,计算机术语,此处意为业务情景)是这样的:一个 zip 文件被上传到一个Web 服务中,然后 Python 需要解压这个 zip 文件然后分析和处理其中的每个文件。这个特殊的应用查看每个文件各自的名称和大小,并和已经上传到 AWS S3 上的文件进行比较,如果文件(和 AWS S3 上的相比)有所不同或者文件本身更新,那么就将它上传到 AWS S3。

Uploads today

Uploads today

挑战在于这些 zip 文件太大了。它们的平均大小是 560MB 但是其中一些大于 1GB。这些文件中大多数是文本文件,但是其中同样也有一些巨大的二进制文件。不同寻常的是,每个 zip 文件包含 100 个文件但是其中 1-3 个文件却占据了多达 95% 的 zip 文件大小。

最开始我尝试在内存中解压文件,并且每次只处理一个文件。在各种内存爆炸和 EC2 耗尽内存的情况下,这个方法壮烈失败了。我觉得这个原因是这样的。最开始你有 1GB 文件在内存中,然后你现在解压每个文件,在内存中大约就要占用 2-3GB。所以,在很多次测试之后,解决方案是将这些 zip 文件复制到磁盘上(在临时目录 /tmp 中),然后遍历这些文件。这次情况好多了但是我仍然注意到了整个解压过程花费了巨量的时间。是否可能有方法优化呢?

原始函数

首先是下面这些模拟对 zip 文件中文件实际操作的普通函数:

  1. def _count_file(fn):
  2. with open(fn, 'rb') as f:
  3. return _count_file_object(f)
  4.  
  5. def _count_file_object(f):
  6. # Note that this iterates on 'f'.
  7. # You *could* do 'return len(f.read())'
  8. # which would be faster but potentially memory
  9. # inefficient and unrealistic in terms of this
  10. # benchmark experiment.
  11. total = 0
  12. for line in f:
  13. total += len(line)
  14. return total

这里是可能最简单的另一个函数:

  1. def f1(fn, dest):
  2. with open(fn, 'rb') as f:
  3. zf = zipfile.ZipFile(f)
  4. zf.extractall(dest)
  5.  
  6. total = 0
  7. for root, dirs, files in os.walk(dest):
  8. for file_ in files:
  9. fn = os.path.join(root, file_)
  10. total += _count_file(fn)
  11. return total

如果我更仔细地分析一下,我将会发现这个函数花费时间 40% 运行 extractall,60% 的时间在遍历各个文件并读取其长度。

第一步尝试

我的第一步尝试是使用线程。先创建一个 zipfile.ZipFile 的实例,展开其中的每个文件名,然后为每一个文件开始一个线程。每个线程都给它一个函数来做“实质工作”(在这个基准测试中,就是遍历每个文件然后获取它的名称)。实际业务中的函数进行的工作是复杂的 S3、Redis 和 PostgreSQL 操作,但是在我的基准测试中我只需要制作一个可以找出文件长度的函数就好了。线程池函数:

  1. def f2(fn, dest):
  2.  
  3. def unzip_member(zf, member, dest):
  4. zf.extract(member, dest)
  5. fn = os.path.join(dest, member.filename)
  6. return _count_file(fn)
  7.  
  8. with open(fn, 'rb') as f:
  9. zf = zipfile.ZipFile(f)
  10. futures = []
  11. with concurrent.futures.ThreadPoolExecutor() as executor:
  12. for member in zf.infolist():
  13. futures.append(
  14. executor.submit(
  15. unzip_member,
  16. zf,
  17. member,
  18. dest,
  19. )
  20. )
  21. total = 0
  22. for future in concurrent.futures.as_completed(futures):
  23. total += future.result()
  24. return total

结果:加速 ~10%

第二步尝试

所以可能是 GIL(LCTT 译注:Global Interpreter Lock,一种全局锁,CPython 中的一个概念)阻碍了我。最自然的想法是尝试使用多线程在多个 CPU 上分配工作。但是这样做有缺点,那就是你不能传递一个非可 pickle 序列化的对象(LCTT 译注:意为只有可 pickle 序列化的对象可以被传递),所以你只能发送文件名到之后的函数中:

  1. def unzip_member_f3(zip_filepath, filename, dest):
  2. with open(zip_filepath, 'rb') as f:
  3. zf = zipfile.ZipFile(f)
  4. zf.extract(filename, dest)
  5. fn = os.path.join(dest, filename)
  6. return _count_file(fn)
  7.  
  8.  
  9.  
  10. def f3(fn, dest):
  11. with open(fn, 'rb') as f:
  12. zf = zipfile.ZipFile(f)
  13. futures = []
  14. with concurrent.futures.ProcessPoolExecutor() as executor:
  15. for member in zf.infolist():
  16. futures.append(
  17. executor.submit(
  18. unzip_member_f3,
  19. fn,
  20. member.filename,
  21. dest,
  22. )
  23. )
  24. total = 0
  25. for future in concurrent.futures.as_completed(futures):
  26. total += future.result()
  27. return total

结果: 加速 ~300%

这是作弊

使用处理器池的问题是这样需要存储在磁盘上的原始 .zip 文件。所以为了在我的 web 服务器上使用这个解决方案,我首先得要将内存中的 zip 文件保存到磁盘,然后调用这个函数。这样做的代价我不是很清楚但是应该不低。

好吧,再翻翻看又没有损失。可能,解压过程加速到足以弥补这样做的损失了吧。

但是一定记住!这个优化取决于使用所有可用的 CPU。如果一些其它的 CPU 需要执行在 gunicorn 中的其它事务呢?这时,这些其它进程必须等待,直到有 CPU 可用。由于在这个服务器上有其他的事务正在进行,我不是很确定我想要在进程中接管所有其他 CPU。

结论

一步一步地做这个任务的这个过程感觉挺好的。你被限制在一个 CPU 上但是表现仍然特别好。同样地,一定要看看在f1f2 两段代码之间的不同之处!利用 concurrent.futures 池类你可以获取到允许使用的 CPU 的个数,但是这样做同样给人感觉不是很好。如果你在虚拟环境中获取的个数是错的呢?或者可用的个数太低以致无法从负载分配获取好处并且现在你仅仅是为了移动负载而支付营运开支呢?

我将会继续使用 zipfile.ZipFile(file_buffer).extractall(temp_dir)。这个工作这样做已经足够好了。

想试试手吗?

我使用一个 c5.4xlarge EC2 服务器来进行我的基准测试。文件可以从此处下载:

  1. wget https://www.peterbe.com/unzip-in-parallel/hack.unzip-in-parallel.py
  2. wget https://www.peterbe.com/unzip-in-parallel/symbols-2017-11-27T14_15_30.zip

这里的 .zip 文件有 34MB。和在服务器上的相比已经小了很多。

hack.unzip-in-parallel.py 文件里是一团糟。它包含了大量可怕的修正和丑陋的代码,但是这只是一个开始。

【编辑推荐】

  1. 用Python实现每秒处理120万次HTTP请求
  2. 什么是Cython?让Python有C语言的速度
  3. 基于Python实现的微信好友数据分析
  4. 实用又好用,6款Python特殊文本格式处理库推荐
  5. 快来学学Python异步IO,轻松管理10k+并发连接
【责任编辑:庞桂玉 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

Web服务安全

Web服务技术是最近几年迅速兴起的一种应用集成技术,而安全问题是影响该技术广泛应用的一个关键因素。这个问题已成为最近几年来国内外研究...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊