Python 多进程通过 Queue 共享数据的实现与优化

小满

发布时间：2026-10-13| 6人浏览过

原创

本文介绍 Python 中多进程通过 multiprocessing.Queue 实现数据共享的方法。示例展示了下载器将数据写入队列，分析器从队列读取数据的完整流程。同时指出内存队列的性能瓶颈，建议在高并发场景下使用 Redis 等分布式缓存进行优化。

Python 多进程队列共享数据概述

本文详细讲解 Python 多进程操作中，进程间如何利用队列（Queue）来共享数据，并提供了一个简单的代码示例供参考。

需要注意的是，默认的队列数据存储在内存中。如果面临高并发或大数据量场景，可以通过集成分布式缓存（如 Redis）来优化队列的性能和扩展性。

代码实现与运行结果

以下是实现进程间通过队列共享数据的具体代码示例：


import multiprocessing
def download_from_web(q):
  """下载数据"""
  # 模拟从网上下载的数据
  data = [11, 22, 33, 44]
  # 向队列中写入数据
  for temp in data:
    q.put(temp) # 队列中写数据,队列满了会阻塞。 put_nowait() 队列满了会抛异常
  print("---下载器已经下载完了数据并且存入到队列中----")
def analysis_data(q):
  """数据处理"""
  waitting_analysis_data = list()
  # 从队列中获取数据
  while True:
    data = q.get() # 队列中读数据,队列空了会阻塞。 get_nowait() 队列空了会抛异常
    waitting_analysis_data.append(data)
    if q.empty(): # 队列是否为空。 q.full() 队列是否满了。
      break
  # 模拟数据处理
  print(waitting_analysis_data)
def main():
  # 1. 创建一个队列 (先进先出)
  q = multiprocessing.Queue(10) # 最多放10个数据。 如果不指定长度,默认最大(和硬件相关)
  # 2. 创建多个进程，将队列的引用当做实参进行传递
  p1 = multiprocessing.Process(target=download_from_web, args=(q,))
  p2 = multiprocessing.Process(target=analysis_data, args=(q,))
  p1.start()
  p2.start()
if __name__ == "__main__":
  main()

程序运行后的输出结果如下：

---下载器已经下载完了数据并且存入到队列中---- [11, 22, 33, 44]

如需了解更多 Python 相关技术，推荐阅读本站的《Python进程与线程操作技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》、《Python+MySQL数据库程序设计入门教程》以及《Python常见数据库操作技巧汇总》等专题文章。

希望上述内容能对您的 Python 程序设计工作提供实际帮助。