Python协程实战:gevent、greenlet与yield阻塞机制详解
本文详解Python中利用gevent和greenlet实现协程多任务的方法。通过yield阻塞、greenlet切换及gevent自动处理IO阻塞,实现高效并发。重点讲解monkey.patch_all()打补丁替换原生阻塞代码的技巧,以及多进程应对GIL锁的策略,适用于爬虫等IO密集型场景。
本文详细介绍Python中基于gevent(涉及yield阻塞与greenlet)的协程操作,以及利用协程实现多任务(具备规律性交替协作执行特性)的具体用法。内容旨在为读者提供清晰的实践参考。
在多任务实现层面,资源消耗程度从高到低依次为:进程消耗资源最大,线程次之,而协程在单线程环境下消耗的资源最少。
gevent通过检测代码中的阻塞点(如网络延迟等IO操作)来自动切换执行任务。因此,在爬虫等IO密集型程序中应用gevent,能够利用网络等待时间执行其他任务,从而显著提升运行效率。
GIL(全局解释器锁)是C语言版本Python解释器的特有机制,它导致多线程效率降低,因为同一时刻仅有一个抢到锁的线程得以执行。但在IO密集型程序中,由于GIL会在IO阻塞时自动切换线程,多线程效率仍高于单线程。
解决GIL(全局解释器锁)限制主要有三种途径:1、避免使用C语言版本的Python解释器;2、让子线程执行非Python代码(例如主线程运行Python,子线程调用C语言动态库);3、采用多进程替代多线程,以充分利用多核CPU资源。
参考代码文件demo.py,演示协程底层原理及yield的使用方式。
import time
# 带yield的函数并不是函数,而是一个生成器模板,返回一个生成器(可用于遍历迭代)
def task_1():
while True:
time.sleep(0.1)
yield # 阻塞,等待next迭代解阻塞
def task_2():
while True:
time.sleep(0.1)
yield
def main():
t1 = task_1() # 返回的t1是一个生成器。 此时并未执行task_1中的代码
t2 = task_2()
# 先让t1运行一会,当t1中遇到yield的时候,再返回到24行,然后
# 执行t2,当它遇到yield的时候,再次切换到t1中
# 这样t1/t2/t1/t2的交替运行,最终实现了多任务....协程
while True:
next(t1) # 执行task_1中的代码,遇到yield阻塞task_1。 等待下一次next激活。
next(t2) # 实现task_1与task_2交替执行,实现多任务...协程
if __name__ == "__main__":
main()
参考代码文件demo.py,展示如何通过greenlet实现协程,该模块封装了yield操作。
from greenlet import greenlet # 需要安装greenlet模块 sudo pip3 install greenlet (python2.x使用pip)
import time
def test1():
while True:
print("---A--")
gr2.switch() # 切换到gr2中的任务。
time.sleep(0.5)
def test2():
while True:
print("---B--")
gr1.switch() # 切换到gr1中的任务。
time.sleep(0.5)
gr1 = greenlet(test1) # greenlet 底层封装了yield。
gr2 = greenlet(test2)
#切换到gr1中运行
gr1.switch()
参考代码文件demo.py,演示gevent实现协程的方式,它封装了greenlet,并在遇到阻塞代码时自动切换协程任务。
import gevent # 需要安装gevent模块 sudo pip3 install gevent (python2.x使用pip)
import time
def f1(n):
for i in range(n):
print(gevent.getcurrent(), i)
gevent.sleep(0.5) # 为了提高协程效率,遇到阻塞类代码,会自动切换协程任务。
# time.sleep(0.5) # 阻塞类代码必须使用gevent自己包装的代码,原生阻塞类代码不会切换协程任务。
# 可以使用monkey.patch_all()将所有原生阻塞类代码替换成gevent包装的阻塞类代码。
def f2(n):
for i in range(n):
print(gevent.getcurrent(), i) # <Greenlet "Greenlet-0" at 0x7f4a09b34648: f1(5)> 0
gevent.sleep(0.5)
# time.sleep(0.5)
def f3(n):
for i in range(n):
print(gevent.getcurrent(), i)
gevent.sleep(0.5)
# time.sleep(0.5)
g1 = gevent.spawn(f1, 5) # gevent其实是对greenlet的封装。
g2 = gevent.spawn(f2, 5) # 第一个参数f2表示协程执行的具体任务(函数),第二个参数5表示要传给f2的参数
g3 = gevent.spawn(f3, 5)
g1.join() # 遇到阻塞类代码,自动切换协程任务。
g2.join()
g3.join()
程序运行输出结果如下:
<Greenlet at 0x1985030: f1(5)> 0 <Greenlet at 0x1b431c8: f2(5)> 0 <Greenlet at 0x1b43140: f3(5)> 0 <Greenlet at 0x1985030: f1(5)> 1 <Greenlet at 0x1b431c8: f2(5)> 1 <Greenlet at 0x1b43140: f3(5)> 1 <Greenlet at 0x1985030: f1(5)> 2 <Greenlet at 0x1b431c8: f2(5)> 2 <Greenlet at 0x1b43140: f3(5)> 2 <Greenlet at 0x1985030: f1(5)> 3 <Greenlet at 0x1b431c8: f2(5)> 3 <Greenlet at 0x1b43140: f3(5)> 3 <Greenlet at 0x1985030: f1(5)> 4 <Greenlet at 0x1b431c8: f2(5)> 4 <Greenlet at 0x1b43140: f3(5)> 4
参考代码文件demo.py,演示gevent的monkey补丁机制,即自动替换原生阻塞类代码。这是开发中重要且常用的技巧。
import gevent # 需要安装gevent模块 sudo pip3 install gevent (python2.x使用pip)
import time
from gevent import monkey
# gevent打补丁
monkey.patch_all() # 将所有原生阻塞类代码自动替换成gevent包装的阻塞类代码。
def f1(n):
for i in range(n):
print(gevent.getcurrent(), i)
time.sleep(0.5) # 会自动替换成 gevent.sleep(0.5)
def f2(n):
for i in range(n):
print(gevent.getcurrent(), i)
time.sleep(0.5)
def f3(n):
for i in range(n):
print(gevent.getcurrent(), i)
time.sleep(0.5)
# g1 = gevent.spawn(f1, 5)
# g2 = gevent.spawn(f2, 5)
# g3 = gevent.spawn(f3, 5)
# g1.join()
# g2.join()
# g3.join()
# 一种简便写法
gevent.joinall([
gevent.spawn(f1, 5),
gevent.spawn(f2, 5),
gevent.spawn(f3, 5)
])
应用monkey补丁后的程序运行结果如下:
<Greenlet at 0x22e0938: f1(5)> 0 <Greenlet at 0x22e09c0: f2(5)> 0 <Greenlet at 0x22e0a48: f3(5)> 0 <Greenlet at 0x22e0938: f1(5)> 1 <Greenlet at 0x22e09c0: f2(5)> 1 <Greenlet at 0x22e0a48: f3(5)> 1 <Greenlet at 0x22e0938: f1(5)> 2 <Greenlet at 0x22e09c0: f2(5)> 2 <Greenlet at 0x22e0a48: f3(5)> 2 <Greenlet at 0x22e0938: f1(5)> 3 <Greenlet at 0x22e09c0: f2(5)> 3 <Greenlet at 0x22e0a48: f3(5)> 3 <Greenlet at 0x22e0938: f1(5)> 4 <Greenlet at 0x22e09c0: f2(5)> 4 <Greenlet at 0x22e0a48: f3(5)> 4
参考代码文件demo.py,深入解析gevent的底层工作原理。
import socket
import time
tcp_server_tcp = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
tcp_server_tcp.bind(("", 7899))
tcp_server_tcp.listen(128)
tcp_server_tcp.setblocking(False) # 设置套接字为非堵塞的方式。 (接收数据时如果没有接到数据(阻塞)那么就抛异常,否则正常接收数据。)
client_socket_list = list() # 用于保存与客户端连接的套接字。
while True:
# time.sleep(0.5)
try:
new_socket, new_addr = tcp_server_tcp.accept() # 用抛异常的方式代替阻塞。
except Exception as ret:
print("---没有新的客户端到来---")
else:
print("---只要没有产生异常,那么也就意味着 来了一个新的客户端----")
new_socket.setblocking(False) # 设置套接字为非堵塞的方式。 (如果需要阻塞就直接抛异常代替阻塞)
client_socket_list.append(new_socket)
for client_socket in client_socket_list:
try:
recv_data = client_socket.recv(1024) # 用抛异常的方式代替阻塞。
except Exception as ret:
print("----这个客户端还没有发送过来数据----")
else:
if recv_data:
# 对方发送过来数据
print("----客户端发送过来了数据-----")
else:
# 对方调用close 导致了 recv返回
client_socket.close()
client_socket_list.remove(client_socket)
print("---客户端已经关闭----")
若需了解更多Python相关知识,建议查阅本站专题:《Python进程与线程操作技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》、《Python+MySQL数据库程序设计入门教程》及《Python常见数据库操作技巧汇总》。
期望本文所述内容能对读者的Python程序设计工作有所助益。
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









