Python多进程apply_async异步调用详解与实战

陆遥
陆遥
发布时间:2026-10-16| 7人浏览过
原创

本文详解Python中multiprocessing.Pool的apply_async方法,阐述其异步非阻塞特性及提升执行效率的原理。通过两个完整代码示例,演示单参数与多参数处理的正确写法,重点解析如何避免报错并获取迭代结果。同时强调close与join的正确调用顺序,确保子进程安全回收,适用于耗时较长且互不影响的批量任务场景。

Python多进程异步调用原理

前言:

当Python主线程需要多次执行同一耗时方法,且各次执行过程与结果相互独立时,若仅在主进程串行执行,整体效率将极低。为此,可借助multiprocessing.Pool(processes=n)配合apply_async()方法,通过指定并行进程数n来提升程序的并发执行能力与运行效率。

apply_async()采用异步非阻塞机制,无需等待当前进程执行完毕即可响应操作系统调度进行进程切换。这种多个进程并行执行的模式,能有效提高程序的整体执行效率。

基础异步任务执行示例

示例代码1:

import time
import random
import multiprocessing
 
def func(x):
    ts = random.randint(1, 10)
    time.sleep(ts)
    print(f'{x}执行完毕!耗时{ts}s')
 
if __name__ == '__main__':
    pool = multiprocessing.Pool(6)
    for i in range(6):
        print(f"开始执行第{i}个任务...")
        pool.apply_async(func, args=(i, ))
    pool.close()
    pool.join()

运行结果:

在使用apply_async()处理接收多个参数的函数时,需在任务函数中正常定义多个参数,并将参数以元组形式传入。然而,若直接对apply_async()传入多个值以获取多个迭代结果,会因该方法仅接收单个值而报错。解决此问题的方法是将调用放入列表生成式中。

多参数处理与结果获取技巧

示例代码2:

import multiprocessing
 
def func(x):
    return x ** 2
 
if __name__ == '__main__':
    pool = multiprocessing.Pool()
    res = [pool.apply_async(func, (i, )) for i in range(6)]
    print([x for x in res])
    print([x.get() for x in res])
    pool.close()
    pool.join()

运行结果:

进程池关闭与等待机制

注意:join()用于等待所有子进程结束后再继续运行。在使用join()之前,必须先调用close()关闭进程池,以禁止提交新任务。

到此这篇关于Python多进程使用apply_async使用方法详解的文章就介绍到这了,更多相关python apply_async 内容请搜索本站以前的文章或继续浏览下面的相关文章希望大家以后多多支持本站!

相关标签:

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。