Python 3.5+ 异步协程核心机制与实战解析
本文深入解析Python 3.4后引入的asyncio模块,阐述单线程下通过协程实现异步IO的工作机制。重点讲解event_loop、coroutine、task及future等核心概念,并结合async/await语法演示协程定义、回调绑定及多任务并发处理,帮助开发者掌握高效网络IO处理技巧。
Python异步IO基础与asyncio模块概述
自Python 3.4版本起,标准库中引入了asyncio模块,旨在协助开发者检测网络IO操作(如HTTP连接),并在应用层面实现异步IO切换。需特别注意,asyncio仅支持TCP层面的请求发送,并不直接处理HTTP协议层。
异步IO的核心定义在于:当发起一个网络IO请求时,程序无需等待该操作完成即可继续执行后续逻辑;一旦IO操作结束,系统会发出通知告知结果。
实现异步IO的主要路径是结合单线程模型与协程技术。
以下是异步协程的具体使用方法。
核心概念解析:事件循环与协程机制
为了深入理解协程实现,我们需要回顾Python版本演进:从Python 3.4开始引入协程概念,初期基于生成器对象;至Python 3.5,引入了async/await语法,大幅简化了协程的实现过程。在此之前,需明确几个关键概念:
- event_loop(事件循环):作为一个无限循环机制,允许将特定函数注册其中。当满足触发条件时,事件循环将调用相应的处理方法。
- coroutine(协程):在Python中通常指代协程对象。可将协程对象注册至事件循环中供其调用。使用async关键字定义的方法在调用时不会立即执行,而是返回一个协程对象。
- task(任务):这是对协程对象的进一步封装,用于跟踪和管理任务的各类状态。
- future:用于表示尚未执行或正在执行的任务结果,其本质与task并无显著区别。
此外,还需掌握从Python 3.5开始专用于定义协程的async/await关键字。其中,async用于定义协程,而await则用于挂起阻塞方法的执行,确保异步流程的正确调度。
协程实战:定义、回调与多任务处理
1. 定义一个协程示例
具体代码实现如下:
from time import sleep
import asyncio
async def request(url):
print('正在请求url')
sleep(2)
print('下载成功')
# 返回一个特殊的协程对象,request函数内部不会被执行
c = request('www.baidu.com')
# 实例化一个事件循环对象
loop = asyncio.get_event_loop()
# 基于事件循环对象创建一个任务对象,并将协程对象封装到该对象中
task = loop.create_task(c)
# 另一种形式实例化任务对象的方法
task = asyncio.ensure_future(c)
# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
# 当事件循环对象内的第一个参数遇到阻塞是,就会自动执行后面的对象,当第一个对象的阻塞结束是会上报给事件循环对象,然后事件循环对象继续执行第一个对象,从而达到异步的效果
loop.run_until_complete(task)
2. 为任务对象绑定回调函数
import asyncio
async def request(url):
print('正在请求url')
print('下载成功')
return url
# 回调函数必须有一个参数:task【任务对象】
# task.result():任务对象中封装的协程对象对应的特殊函数内部的返回值
def callback(task):
print('this is callback')
print(task.result())
c = request('www.baidu.com')
# 创建一个任务对象
task = asyncio.ensure_future(c)
# 给任务对象绑定一个回调函数
task.add_done_callback(callback)
# 实例化一个事件循环对象
loop = asyncio.get_event_loop()
# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
loop.run_until_complete(task)
3. 多任务异步协程处理
import asyncio
import time
urls = ['www.baidu.com','www.sogou,com','www.goubanjia.com']
start_time = time.time()
async def request(url):
print('正在请求url')
# 在多任务异步协程事项中,不可以出现不支持异步的相关代码,sleep不支持
# sleep(2)
await asyncio.sleep(2)
print('下载成功')
loop = asyncio.get_event_loop()
# 任务列表:防止多个任务对象
tasks = []
for url in urls:
c = request(url)
task = asyncio.ensure_future(c)
tasks.append(task)
loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)
4. 多异步任务在实际场景中的应用
# aiohttp:支持异步的一个基于网络请求的模块
import aiohttp
import asyncio
import time
urls = ['http://127.0.0.1:5000/jay',
'http://127.0.0.1:5000/bobo',
'http://127.0.0.1:5000/tom',]
start_time = time.time()
async def get_pageText(url):
async with aiohttp.ClientSession() as s:# 实例化请求对象
async with await s.get(url) as response:
page_text = await response.text()
print(page_text)
# 这里有返回值,是因为要用回调函数进行数据解析
return page_text
# 封装回调函数用于数据解析
def parse(task):
# 1.获取相应数据
page_text = task.reault()
print(page_text+',即将进行数据解析...')
# 以下解析操作
tasks = []
for url in urls:
c = get_pageText(url)
task = asyncio.ensure_future(c)
# 给任务对象绑定回调函数用于数据解析
task.add_done_callback(parse)
tasks.append(task)
loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)
以上内容涵盖了本文的核心知识点,希望能对读者的学习有所助益,也欢迎持续关注本站以获取更多信息。
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









