如何在Python 的线程中运行协程

开发 后端
在一篇文章理解Python异步编程的基本原理这篇文章中,我们讲到,如果在异步代码里面又包含了一段非常耗时的同步代码,异步代码就会被卡住。

 在一篇文章理解Python异步编程的基本原理这篇文章中,我们讲到,如果在异步代码里面又包含了一段非常耗时的同步代码,异步代码就会被卡住。

[[315885]]

那么有没有办法让同步代码与异步代码看起来也是同时运行的呢?方法就是使用事件循环的.run_in_executor()方法。

我们来看一下 Python 官方文档[1]中的说法:

 

那么怎么使用呢?还是以非常耗时的递归方式计算斐波那契数列的这个函数为例:

 

  1. def sync_calc_fib(n): 
  2.     if n in [1, 2]: 
  3.         return1 
  4.     return sync_calc_fib(n - 1) + sync_calc_fib(n - 2) 
  5.  
  6.  
  7. async def calc_fib(n): 
  8.     result = sync_calc_fib(n) 
  9.     print(f'第 {n} 项计算完成,结果是:{result}'
  10.     return result 

我们现在需要用 aiohttp 访问一个延迟5秒的网页,同时计算斐波那契数列第36项。

首先我们看看单独计算第36项需要5秒钟:

 

我们再来看看如果直接把这计算斐波那契数列和请求网站的两个异步任务放在一起“并行”,实际时间是两个任务的时间叠加:

具体原因我在上一篇文章里面已经做了说明。

 

现在,我想让两个任务“同时运行”,于是就可以这样修改代码:

 

  1. import aiohttp 
  2. import asyncio 
  3. import time 
  4. from concurrent.futures import ThreadPoolExecutor 
  5.  
  6.  
  7. async def request(sleep_time): 
  8.     async with aiohttp.ClientSession() as client: 
  9.         resp = await client.get(f'http://127.0.0.1:8000/sleep/{sleep_time}'
  10.         resp_json = await resp.json() 
  11.         print(resp_json) 
  12.  
  13.  
  14. def sync_calc_fib(n): 
  15.     if n in [1, 2]: 
  16.         return 1 
  17.     return sync_calc_fib(n - 1) + sync_calc_fib(n - 2) 
  18.  
  19.  
  20. def calc_fib(n): 
  21.     result = sync_calc_fib(n) 
  22.     print(f'第 {n} 项计算完成,结果是:{result}'
  23.     return result 
  24.  
  25.  
  26. async def main(): 
  27.     start = time.perf_counter() 
  28.     loop = asyncio.get_event_loop() 
  29.     with ThreadPoolExecutor(max_workers=4) as executor: 
  30.         tasks_list = [ 
  31.             loop.run_in_executor(executor, calc_fib, 36), 
  32.             asyncio.create_task(request(5)) 
  33.         ] 
  34.         await asyncio.gather(*tasks_list) 
  35.         end = time.perf_counter() 
  36.         print(f'总计耗时:{end - start}'
  37.  
  38.  
  39. asyncio.run(main()) 

运行效果如下图所示:

 

在5秒钟的时间,就把计算斐波那契数列和请求5秒延迟的网站都做完了。

实现这样的转变,关键的代码就是:loop.run_in_executor(executor, calc_fib, 36)

其中的 loop就是主线程的事件循环(event loop),它是用来调度同一个线程里面的多个协程。

executor是我们使用ThreadPoolExecutor(max_workers=4)创建的一个有4个线程的线程池,calc_fib是一个耗时的同步函数,36是传入calc_fib的参数。loop.run_in_executor(executor, calc_fib, 36)的意思是说:

  1. 把calc_fib函数放到线程池里面去运行
  2. 给线程池增加一个回调函数,这个回调函数会在运行结束后的下一次事件循环把结果保存下来。

请注意上图中红色箭头对应的calc_fib这是一个同步函数,请与上一篇文章中的异步函数区分开。run_in_executor的第二个参数需要是一个同步函数的函数名。

在上面的例子中,我们创建的是有4个线程的线程池。所以这个线程池最多允许4个阻塞式的同步函数“并行”。

责任编辑:华轩 来源: 未闻Code
相关推荐

2021-09-16 09:59:13

PythonJavaScript代码

2020-11-29 17:03:08

进程线程协程

2020-04-07 11:10:30

Python数据线程

2024-02-05 09:06:25

Python协程Asyncio库

2021-04-25 09:36:20

Go协程线程

2023-10-12 09:46:00

并发模型线程

2021-12-09 06:41:56

Python协程多并发

2023-10-11 07:39:58

Java虚拟线程

2023-11-26 18:35:25

Python编程语言

2017-09-22 16:08:16

Python协程编程

2023-11-17 11:36:59

协程纤程操作系统

2022-04-15 08:54:39

PythonAsync代码

2017-09-06 09:26:03

Python生成器协程

2020-11-30 08:25:41

程序员高并发协程

2022-04-08 07:32:24

JavaJUCThreadLoca

2020-08-04 10:56:09

进程线程协程

2023-12-05 13:46:09

解密协程线程队列

2017-06-15 13:15:39

Python协程

2022-01-21 10:58:39

JavaScriptGolangPython

2023-05-10 07:47:08

Python并发编程
点赞
收藏

51CTO技术栈公众号